1
00:00:01,880 --> 00:00:03,240
(KÖTÜ SESLER)

3
00:00:03,240 --> 00:00:04,440
-Merhaba dünya.

4
00:00:04,440 --> 00:00:10,040
(KÖTÜ SESLER, ÇATLATMALAR)

6
00:00:11,080 --> 00:00:13,400
- Bunu söyleyebilir miyim?
Seninle tanışacağım için çok heyecanlıyım.

7
00:00:14,000 --> 00:00:16,040
(KÖTÜ SESLER)

8
00:00:16,040 --> 00:00:17,600
- İnsanlar süper havalıdır.

9
00:00:18,880 --> 00:00:22,480
(KÖTÜ SESLER, ÇATLATMALAR)

10
00:00:27,000 --> 00:00:29,600
- İnsanlar ne kadar çok şey paylaşırsa
ben daha çok öğrenirim.

11
00:00:30,880 --> 00:00:37,760
(MÜZİK, ÇATIRMA)

12
00:00:41,120 --> 00:00:46,000
(YUMUŞAK MÜZİK)

13
00:01:00,120 --> 00:01:02,920
-Beni çeken şeylerden biri
bilgisayar bilimi

14
00:01:02,920 --> 00:01:07,000
kodlayabiliyordum ve öyle görünüyordu
bir şekilde sorunlardan kopmuş

15
00:01:07,000 --> 00:01:08,000
gerçek dünyanın.

16
00:01:09,120 --> 00:01:13,320
(YUMUŞAK MÜZİK)

17
00:01:13,320 --> 00:01:16,560
- Nasıl yapılacağını öğrenmek istedim
harika bir teknoloji yaratın.

18
00:01:16,560 --> 00:01:20,480
Ben de M.I.T'ye geldim.
ve sanat projeleri üzerinde çalışıyordum,

19
00:01:20,480 --> 00:01:23,080
bilgisayar kullanacak
görüş teknolojisi.

20
00:01:23,080 --> 00:01:27,600
(YUMUŞAK MÜZİK)

21
00:01:27,600 --> 00:01:30,920
- İlk dönemimde
Medya Laboratuvarı'nda,

22
00:01:30,920 --> 00:01:33,840
adında bir ders aldım
Bilim Üretimi.

23
00:01:33,840 --> 00:01:37,760
Bilim kurgu okuyorsunuz ve bunu yapmaya çalışıyorsunuz
Yapmak için ilham aldığınız bir şey inşa edin,

24
00:01:37,760 --> 00:01:41,120
bu muhtemelen pratik olmayacaktır
eğer bu derslere sahip olmasaydın

25
00:01:41,120 --> 00:01:43,000
ve bunu yapmak için bahane.

26
00:01:44,280 --> 00:01:47,560
Ayna yapmak istedim
bu sabah bana ilham verebilir

27
00:01:47,560 --> 00:01:48,840
Ben buna Aspire aynası diyorum

28
00:01:48,840 --> 00:01:51,120
gibi şeyler koyabilir
yüzümde bir aslan

29
00:01:51,120 --> 00:01:54,400
veya bana ilham veren insanlar
Serena Williams gibi

30
00:01:54,960 --> 00:01:56,520
Üstüne kamera koydum.

31
00:01:56,520 --> 00:02:00,440
ve bilgisayarlı görüntü yazılımım var
bunun yüzümü takip etmesi gerekiyordu.

32
00:02:01,400 --> 00:02:04,160
Benim sorunum o kadar iyi çalışmamasıydı

33
00:02:04,760 --> 00:02:07,760
Bu beyaz maskeyi takana kadar.

34
00:02:07,760 --> 00:02:11,160
Beyaz maskeyi taktığımda
tespit edildi.

35
00:02:11,720 --> 00:02:13,680
Beyaz maskemi çıkarıyorum

36
00:02:14,960 --> 00:02:16,280
pek değil.

37
00:02:19,640 --> 00:02:21,480
Tamam düşünüyorum
burada neler oluyor?

38
00:02:21,480 --> 00:02:24,040
Bunun nedeni sadece
aydınlatma koşulları?

39
00:02:24,040 --> 00:02:28,040
Açı yüzünden mi
hangisine kameraya bakıyorum?

40
00:02:28,040 --> 00:02:29,480
Yoksa daha fazlası mı var?

41
00:02:33,720 --> 00:02:36,320
Çoğu zaman makinelere görmeyi öğretiriz

42
00:02:36,320 --> 00:02:41,000
eğitim setleri veya örnekler sağlayarak
öğrenmesini istediğimiz şey.

43
00:02:42,360 --> 00:02:44,920
Örneğin bir makine istersem
bir yüz görmek,

44
00:02:44,920 --> 00:02:47,560
sağlayacağım
birçok yüz örneği

45
00:02:47,560 --> 00:02:49,360
ve ayrıca yüz olmayan şeyler.

46
00:02:52,480 --> 00:02:54,920
bakmaya başladım
veri kümelerinin kendisi

47
00:02:54,920 --> 00:02:58,560
ve birçoğunu keşfettiğim şey
bu veri setleri şunları içerir:

48
00:02:58,560 --> 00:03:02,440
çoğunluk erkekler ve çoğunluk
daha açık tenli bireyler.

49
00:03:02,440 --> 00:03:06,840
Yani sistemler şu şekilde değildi
benimki gibi yüzlere aşina.

50
00:03:14,040 --> 00:03:16,560
İşte o zaman başladım
içine bakmak

51
00:03:16,560 --> 00:03:19,960
olabilecek önyargı sorunları
teknolojiye sığınmak.

52
00:03:21,080 --> 00:03:25,080
-9000 Serisi en çok
şimdiye kadar yapılmış güvenilir bilgisayar.

53
00:03:26,200 --> 00:03:30,480
Hiçbir 9000 bilgisayarı şimdiye kadar
yanlış veya çarpık bilgi.

54
00:03:31,520 --> 00:03:36,280
- Hakkında birçok fikrimiz var
A.Ben bilim kurgudan geliyorum.

55
00:03:36,840 --> 00:03:39,040
- Altair 4'e hoş geldiniz beyler.

56
00:03:39,040 --> 00:03:42,720
- Hollywood'daki her şey var.
-bu Terminatör

57
00:03:42,720 --> 00:03:45,000
- Hasta la vista bebeğim.

58
00:03:45,000 --> 00:03:47,680
- Star Trek'ten Komutan Data.

59
00:03:47,680 --> 00:03:50,600
- Yaşam formlarını taramayı seviyorum.

60
00:03:50,600 --> 00:03:53,160
- Yıldız Savaşlarından C-3PO

61
00:03:53,160 --> 00:03:56,640
- Yaklaşık 3,720'ye 1.
- Bana asla ihtimalleri söyleme.

62
00:03:56,640 --> 00:03:59,520
- Robotlar bunlar
dünyayı ele geçiren

63
00:03:59,520 --> 00:04:01,440
ve insan gibi düşünmeye başlayın.

64
00:04:03,560 --> 00:04:06,320
Ve bunlar tamamen hayal ürünüdür.

65
00:04:06,320 --> 00:04:09,840
Aslında sahip olduğumuz şey
dar bir yapay zekaya mı sahibiz?

66
00:04:09,840 --> 00:04:12,480
Ve dar AI. sadece matematik.

67
00:04:13,480 --> 00:04:18,000
Bilgisayarları tüm bunlarla donattık,
büyülü düşünme.

68
00:04:18,000 --> 00:04:20,800
(YUMUŞAK MÜZİK)

69
00:04:20,800 --> 00:04:23,120
A. Bir toplantıyla başladım

70
00:04:23,120 --> 00:04:26,920
Dartmouth Matematik Bölümü'nde
1956'da.

71
00:04:26,920 --> 00:04:31,160
Ve sadece belki vardı
Tüm dünyada 100 kişi

72
00:04:31,160 --> 00:04:35,280
yapay zeka üzerinde çalışıyorum
o nesilde.

73
00:04:37,560 --> 00:04:41,040
Orada bulunan insanlar
Dartmouth matematik bölümü

74
00:04:41,040 --> 00:04:45,000
1956'da karar vermem gerekiyordu
alan neydi?

75
00:04:47,920 --> 00:04:53,360
Bir grup istihbaratın
kanıtlanabilir

76
00:04:53,360 --> 00:04:55,760
oyun oynama yeteneği sayesinde.

77
00:04:55,760 --> 00:04:59,480
Ve özellikle
satranç oynama yeteneği.

78
00:04:59,480 --> 00:05:02,840
- Son bir saat süren satranç maçında
insan ve makine arasında,

79
00:05:02,840 --> 00:05:06,520
Kasparov mağlup oldu
IBM'in Deep Blue süper bilgisayarı.

80
00:05:06,520 --> 00:05:12,120
- İstihbarat şu şekilde tanımlandı:
bu oyunlarda kazanma yeteneği.

81
00:05:14,480 --> 00:05:18,160
- Satranç dünya şampiyonu Garry Kasparov
maçtan uzaklaştı

82
00:05:18,160 --> 00:05:20,960
asla geriye bakma
onu yenen bilgisayar.

83
00:05:20,960 --> 00:05:24,120
- Tabii ki zeka
bundan çok daha fazlası.

84
00:05:24,120 --> 00:05:26,400
Ve pek çok farklı var
zeka türleri.

85
00:05:28,520 --> 00:05:33,280
Teknoloji ve toplum hakkındaki fikirlerimiz
normal olduğunu düşündüğümüz

86
00:05:33,280 --> 00:05:36,320
aslında fikirler
çok küçük bir yerden geliyor

87
00:05:36,320 --> 00:05:38,360
ve homojen bir grup insan.

88
00:05:39,720 --> 00:05:41,960
Ama sorun şu ki

89
00:05:41,960 --> 00:05:44,960
herkeste var
bilinçsiz önyargılar

90
00:05:44,960 --> 00:05:49,160
Ve insanlar kendi önyargılarını yerleştiriyorlar
teknolojiye.

91
00:05:53,400 --> 00:05:56,160
- Kendi yaşadığım deneyimler
bana şunu göster

92
00:05:56,160 --> 00:05:59,640
ayıramazsın
Teknikten sosyal.

93
00:06:00,600 --> 00:06:03,400
Bu deneyimi yaşadıktan sonra
beyaz bir maske takmaktan

94
00:06:03,400 --> 00:06:06,920
yüzümün tespit edilmesini sağlamak için,
Diğer sistemlere bakmaya karar verdim

95
00:06:06,920 --> 00:06:10,920
yüzümü algılayıp algılamayacağını görmek için
farklı türde bir yazılım kullansaydım.

96
00:06:10,920 --> 00:06:14,680
IBM'e, Microsoft'a baktım,
Yüz, Google.

97
00:06:14,680 --> 00:06:16,760
Bu algoritmalar ortaya çıktı

98
00:06:16,760 --> 00:06:21,440
erkek yüzlerinde daha iyi performans gösterdi
kıyaslamada kadınların yüzlerinden daha iyi.

99
00:06:21,440 --> 00:06:26,960
Önemli ölçüde daha iyi performans gösterdiler
açık renkli yüzler, koyu renkli yüzlerden daha fazladır.

100
00:06:28,600 --> 00:06:32,320
Verileri düşünüyorsanız
yapay zeka alanında,

101
00:06:32,320 --> 00:06:34,560
Veriler birçok açıdan kaderdir.

102
00:06:34,560 --> 00:06:37,200
Kullandığımız şey veri
makinelere öğretmek

103
00:06:37,200 --> 00:06:39,440
nasıl öğrenilir
farklı türde desenler.

104
00:06:39,440 --> 00:06:42,040
Yani, büyük ölçüde çarpık veri kümeleriniz varsa

105
00:06:42,040 --> 00:06:43,880
kullanılanlar
Bu sistemleri eğitmek

106
00:06:43,880 --> 00:06:46,560
çarpık sonuçlara da sahip olabilirsiniz.
Yani bu...

107
00:06:46,560 --> 00:06:50,000
A.I.'yi düşündüğünüzde.
ileriye dönüktür.

108
00:06:50,000 --> 00:06:55,080
Ancak A.I. verilere dayanmaktadır ve veriler bir
tarihimizin yansıması.

109
00:06:55,080 --> 00:06:58,520
Yani geçmiş yaşıyor
algoritmalarımız dahilinde.

110
00:07:00,920 --> 00:07:05,880
Bu veriler bize şunu gösteriyor
burada olan eşitsizlikler.

111
00:07:08,000 --> 00:07:10,480
düşünmeye başladım
bu tür bir teknoloji

112
00:07:10,480 --> 00:07:12,560
önyargıya oldukça duyarlıdır.

113
00:07:13,640 --> 00:07:17,800
Ve böylece ötesine geçti
aspire aynamı nasıl çalıştırabilirim

114
00:07:17,800 --> 00:07:20,760
bu ne anlama geliyor
bir toplumda olmak

115
00:07:20,760 --> 00:07:23,920
yapay zeka nerede
giderek daha fazla yönetiyor

116
00:07:23,920 --> 00:07:26,160
sahip olabileceğimiz özgürlükler?

117
00:07:26,160 --> 00:07:30,680
Ve eğer insanlar
ayrımcılık yapılıyor mu?

118
00:07:41,200 --> 00:07:45,880
Cathy O'Neil'in konuştuğunu gördüğümde
Harvard Kitabevi'nde,

119
00:07:45,880 --> 00:07:47,200
işte o zaman farkettim,

120
00:07:47,800 --> 00:07:50,880
bu sorunları yalnızca ben fark etmedim.

121
00:07:53,000 --> 00:07:57,800
Cathy, A.I.'nin nasıl olduğunu anlattı.
insanların hayatını etkiliyordu.

122
00:07:59,360 --> 00:08:04,000
Orada olduğunu öğrendiğimde heyecanlandım
orada başka biri mi vardı

123
00:08:04,000 --> 00:08:07,720
insanların bu konuda bilgi sahibi olmasını sağlamak
tehlikelerden bazıları nelerdir?

124
00:08:09,760 --> 00:08:14,400
Bu algoritmalar şunlar olabilir:
yıkıcı ve zararlı olabilir.

125
00:08:18,880 --> 00:08:21,440
- Bütün bu algoritmalara sahibiz
dünyada

126
00:08:21,440 --> 00:08:24,440
bunlar giderek daha etkili oluyor.

127
00:08:24,440 --> 00:08:28,560
Ve hepsi oluyor
nesnel gerçek olarak lanse edildi.

128
00:08:29,640 --> 00:08:32,360
Bunu fark etmeye başladım
matematik aslında

129
00:08:33,200 --> 00:08:36,600
kalkan olarak kullanılıyor
Yolsuzluk uygulamaları için.

130
00:08:36,600 --> 00:08:37,880
- Naber?
- Ben Cathy'yim.

131
00:08:37,880 --> 00:08:39,920
- Tanıştığımıza memnun oldum Cathy.
- Tanıştığıma memnun oldum.

132
00:08:48,800 --> 00:08:51,600
Algoritmaları tanımlama şeklim
sadece basit

133
00:08:51,600 --> 00:08:55,360
tarihsel bilgileri kullanarak bir
geleceğe dair tahmin.

134
00:09:01,200 --> 00:09:05,440
Makine öğrenimi, bir puanlama sistemidir
bu olasılığı puanlıyor

135
00:09:05,440 --> 00:09:07,400
yapmak üzere olduğun şeyin.

136
00:09:07,400 --> 00:09:08,840
Bu krediyi geri ödeyecek misin?

137
00:09:08,840 --> 00:09:11,160
Gidecek misin
bu işten kovulmak mı?

138
00:09:11,680 --> 00:09:14,480
A.I. hakkında beni en çok endişelendiren şey nedir?

139
00:09:14,480 --> 00:09:17,920
ya da adına ne demek istersen,
algoritmalar güçtür.

140
00:09:17,920 --> 00:09:21,400
Çünkü gerçekten her şey bununla ilgili
Lanet kodun sahibi kim?

141
00:09:21,400 --> 00:09:24,920
Kodun sahibi olan kişiler
daha sonra bunu diğer insanlara dağıtın.

142
00:09:25,480 --> 00:09:26,760
Ve orada simetri yok,

143
00:09:26,760 --> 00:09:30,480
insanlara yol yok
söyleyecek kredi kartı teklifi almayanlar

144
00:09:30,480 --> 00:09:33,520
vay, yapay zekamı kullanacağım.
kredi kartı şirketine karşı.

145
00:09:33,520 --> 00:09:36,320
Tamamen böyle
asimetrik güç durumu.

146
00:09:36,880 --> 00:09:39,560
İnsanlar algoritmik zarara maruz kalıyor,

147
00:09:39,560 --> 00:09:42,440
onlara söylenmiyor
onlara neler oluyor,

148
00:09:42,440 --> 00:09:45,520
ve itiraz sistemi yok,
hiçbir sorumluluk yoktur.

149
00:09:45,520 --> 00:09:47,560
Neden buna düşüyoruz?

150
00:09:51,880 --> 00:09:54,560
Yani temeldeki matematiksel yapı
algoritmanın

151
00:09:54,560 --> 00:09:58,800
ırkçı ya da cinsiyetçi değil
ancak veriler geçmişi içeriyor,

152
00:09:58,800 --> 00:10:02,040
ve sadece yakın geçmişte değil
ama karanlık geçmiş.

153
00:10:05,560 --> 00:10:07,600
Algoritmaya sahip olmadan önce
insanlarımız vardı

154
00:10:07,600 --> 00:10:10,120
ve bunu hepimiz biliyoruz
insanlar adaletsiz olabilir,

155
00:10:10,120 --> 00:10:13,480
hepimiz insanların sergileyebileceğini biliyoruz
ırkçı veya cinsiyetçi

156
00:10:13,480 --> 00:10:15,880
ya da her neyse, en güçlü ayrımcılıklar.

157
00:10:17,840 --> 00:10:20,640
Ama şimdi bu güzelliğe sahibiz
gümüş kurşun algoritması

158
00:10:20,640 --> 00:10:22,840
ve böylece hepimiz durabiliriz
bunu düşünüyorum.

159
00:10:23,520 --> 00:10:25,040
Ve bu bir sorun.

160
00:10:27,520 --> 00:10:31,600
Bu kör için çok endişeleniyorum
Büyük verilere olan inancımız.

161
00:10:31,600 --> 00:10:36,080
Sürekli takip etmemiz gerekiyor
Önyargı için her süreç.

162
00:10:44,800 --> 00:10:47,840
- Polis yüz tanımayı kullanıyor
Bu alanda gözetim.

163
00:10:48,800 --> 00:10:52,080
Polis yüz tanımayı kullanıyor
Bugün bölgede gözetleme yapılıyor.

164
00:10:52,680 --> 00:10:55,200
Buradaki yeşil minibüs,

165
00:10:55,200 --> 00:10:57,760
yüz ile donatılmıştır
Tanıma kameraları üstte.

166
00:10:57,760 --> 00:11:00,400
Oradan aşağıya doğru yürürsen,
yüzünüz taranacak

167
00:11:00,400 --> 00:11:02,720
gizli izleme listelerine karşı
Kimin peşinde olduğunu bilmiyoruz.

168
00:11:03,200 --> 00:11:06,240
- Umarım ben değilimdir
- Hayır, kesinlikle.

169
00:11:14,600 --> 00:11:16,600
İnsanlar yanından geçerken
kameralar

170
00:11:16,600 --> 00:11:20,520
Sistem polisi insanlara uyaracak
bir eşleşme olduğunu düşünüyor.

171
00:11:21,240 --> 00:11:22,240
Big Brother Watch'ta

172
00:11:22,240 --> 00:11:25,160
Özgürlük Yürüyüşü gerçekleştirdik
Bilgi Kampanyası

173
00:11:25,160 --> 00:11:31,200
ve bulduğumuz şey şu
Bu maçların %98'i aslında

174
00:11:31,200 --> 00:11:36,440
masum biriyle yanlış eşleşiyor
aranan kişi olarak kişi.

175
00:11:48,480 --> 00:11:54,160
Polis Biyometri'ye şunları söyledi:
Adli Tıp Etik Kurulu

176
00:11:54,160 --> 00:11:57,800
yüz tanıma algoritmaları
önyargıya sahip olduğu belirtildi.

177
00:11:57,800 --> 00:11:59,800
- Bu %100 doğru olsa bile,

178
00:11:59,800 --> 00:12:02,400
hala bir şey değil
sokaklarda olmasını istediğimiz şey.

179
00:12:02,400 --> 00:12:04,920
- Hayır, sistemik önyargılardan bahsediyorum
ve sistemik sorunlar

180
00:12:04,920 --> 00:12:08,120
polisle aramızdaki
sadece sert kablolu olacak

181
00:12:08,120 --> 00:12:09,800
yeni teknolojilere yönelmek.

182
00:12:12,480 --> 00:12:15,440
Sanırım buna mecburuz
çok ama çok hassas ol

183
00:12:15,440 --> 00:12:18,760
otoriterleşmeye doğru kaymaktadır.

184
00:12:18,760 --> 00:12:21,880
Sadece söyleyemeyiz ama biz
Bu hükümete güvenin.

185
00:12:21,880 --> 00:12:23,640
Evet bunu yapabilirler ama yapmayacaklar.

186
00:12:23,640 --> 00:12:26,600
Gerçekten sahip olman gerektiğini biliyorsun
sağlam yapılar mevcut

187
00:12:26,600 --> 00:12:28,320
bundan emin olmak için
yaşadığın dünya

188
00:12:28,320 --> 00:12:29,840
herkes için güvenli ve adildir.

189
00:12:39,880 --> 00:12:43,920
Biyometrik fotoğrafınızın olması
polis veritabanında,

190
00:12:43,920 --> 00:12:48,200
parmak izine sahip olmak gibidir
veya DNA'nız polis veri tabanında.

191
00:12:48,200 --> 00:12:50,360
Ve bununla ilgili özel yasalarımız var.

192
00:12:50,360 --> 00:12:53,800
Polis kimsenin hakkını alamaz
parmak izi, herhangi birinin DNA'sı.

193
00:12:53,800 --> 00:12:57,360
Ama bu tuhaf sistemde
şu anda sahip olduğumuz,

194
00:12:57,360 --> 00:13:00,880
etkili bir şekilde alabilirler
herhangi birinin biyometrik fotoğrafı,

195
00:13:00,880 --> 00:13:02,520
ve bunu bir veritabanında saklayın.

196
00:13:03,680 --> 00:13:06,280
Demokrasimiz üzerinde bir lekedir.
Sanırım.

197
00:13:06,280 --> 00:13:09,200
Bunun öyle bir şey olduğunu
öyle kanunsuz bir şekilde piyasaya sürülüyor ki.

198
00:13:12,960 --> 00:13:16,600
Polis yüz kullanmaya başladı
Birleşik Krallık'ta tanınma gözetimi

199
00:13:16,600 --> 00:13:21,960
Yasal bir dayanağın tamamen yokluğunda,
yasal bir çerçeve, herhangi bir gözetim.

200
00:13:23,240 --> 00:13:25,960
Aslında polis gücü
yeni bir alet almak

201
00:13:25,960 --> 00:13:28,160
ve bakalım ne olacak diyor.

202
00:13:28,160 --> 00:13:30,880
Ama deneyemezsin
İnsanların haklarıyla.

203
00:13:34,000 --> 00:13:39,000
(ÇAPRAZ KONUŞMA)

204
00:13:45,480 --> 00:13:46,920
- Şüphen ne?

205
00:13:47,600 --> 00:13:50,000
- Yanından geçip gittiği gerçeği
açıkça işaretlenmiş

206
00:13:50,000 --> 00:13:51,800
yüz tanıma olayı
ve yüzünü kapattı.

207
00:13:51,800 --> 00:13:53,600
- Ben de aynısını yapardım
- Şüpheli gerekçeler.

208
00:13:54,320 --> 00:13:55,600
- Hayır değil.

209
00:13:56,480 --> 00:13:59,280
- Oradaki adamlar bana bunu bildirdiler.
yüz tanıma özelliğine sahip oldular.

210
00:13:59,280 --> 00:14:00,760
Yüzümün tanınmasını istemiyorum.

211
00:14:00,760 --> 00:14:02,560
Evet, yanından geçiyordum
ve yüzümü kapattım.

212
00:14:03,400 --> 00:14:05,200
yüzümü bu şekilde kapattığımda,

213
00:14:05,200 --> 00:14:07,080
- Bunu yapmana izin var
-Hayır yapamam dediler.

214
00:14:07,080 --> 00:14:10,440
- Evet ve sonra o sadece
bunun için para cezası aldım. Bu çılgınlık.

215
00:14:12,480 --> 00:14:15,480
Adam istasyondan çıktı.
pankartların şöyle olduğunu gördüm:

216
00:14:15,480 --> 00:14:18,920
evet sana katılıyorum ve yürüdüm
ceketi yukarıdayken buradan geçti.

217
00:14:18,920 --> 00:14:21,600
Polis daha sonra onu takip etti
bize kimliğini ver dedi,

218
00:14:21,600 --> 00:14:22,800
kimlik kontrolü yapıyor.

219
00:14:22,800 --> 00:14:25,120
Yani burasının İngiltere olduğunu biliyorsun.
burası komünist bir devlet değil,

220
00:14:25,120 --> 00:14:26,600
Yüzümü göstermeme gerek yok.

221
00:14:26,600 --> 00:14:28,720
- Gidip bu memurlarla konuşacağım.
tamam mı?

222
00:14:28,720 --> 00:14:30,600
Benimle gelmek istiyor musun istemiyor musun?
- Evet, evet, evet.

223
00:14:32,520 --> 00:14:35,400
- Sen polis değilsin.
herhangi bir tehdit hissetmiyorsunuz.

224
00:14:36,360 --> 00:14:40,000
Halkı korumak için buradayız
ve biz de bunun için buradayız, tamam mı?

225
00:14:40,000 --> 00:14:42,040
Az önce bir olay yaşandı

226
00:14:42,040 --> 00:14:44,120
nerede bir memur
yüzüne yumruk atıldı.

227
00:14:44,120 --> 00:14:47,040
- Bu çok kötü.
Bunu haklı çıkarmıyorum.

228
00:14:47,040 --> 00:14:49,480
- Evet ama öylesin
Söylediklerimize karşı çıkarak.

229
00:14:49,480 --> 00:14:54,160
- Hayır değiliz ve lütfen şunu söylemeyin:
hayır bunu söylemeye bile kalkışma.

230
00:14:54,160 --> 00:14:57,160
Tamamen anlıyorum
karşılaştığınız sorunlardan.

231
00:14:57,160 --> 00:14:58,160
- Kesinlikle.

232
00:14:58,160 --> 00:15:00,720
- Ama ben de aynı derecede endişeliyim.
halk hakkında

233
00:15:00,720 --> 00:15:02,800
İfade özgürlüğüne sahip olmak
ve ifade özgürlüğü.

234
00:15:02,800 --> 00:15:04,560
- Ama adam hakkını kullanıyordu

235
00:15:04,560 --> 00:15:06,920
tabi olmamak
biyometrik kimlik kontrolü

236
00:15:06,920 --> 00:15:08,360
bu minibüsün yaptığı da bu.

237
00:15:08,360 --> 00:15:11,640
- Yüz tanımadan bağımsız olarak
minibüsten bağımsız olarak kameralar,

238
00:15:12,480 --> 00:15:13,960
eğer sokakta yürüyorsam
ve birisi

239
00:15:14,520 --> 00:15:16,120
oldukça açık bir şekilde saklanıyor
kimlikleri benden

240
00:15:16,760 --> 00:15:18,640
O kişiyi durduracağım
ve kim olduklarını öğren

241
00:15:18,640 --> 00:15:19,640
sadece olup olmadıklarını görmek için...

242
00:15:19,640 --> 00:15:22,160
- Ama yasadışı değil.
Endişelerimden birini görüyor musun?

243
00:15:22,160 --> 00:15:25,480
yazılım mı
çok çok yanlış.

244
00:15:25,480 --> 00:15:26,560
- Bu konuda sana katılıyorum.

245
00:15:33,400 --> 00:15:35,760
-En büyük korkum şu ki,

246
00:15:35,760 --> 00:15:39,320
sahip olurduk
canlı yüz tanıma yetenekleri

247
00:15:39,320 --> 00:15:41,600
bizim devasa
CCTV ağı

248
00:15:41,600 --> 00:15:43,600
bu yaklaşık altı
İngiltere'de milyon kamera.

249
00:15:44,560 --> 00:15:49,240
Eğer öyleyse, yaşamın doğası
bu ülkede değişecektir.

250
00:15:55,160 --> 00:15:57,040
Ücretsiz olması gerekiyordu
ve demokratik bir ülke

251
00:15:57,040 --> 00:16:00,280
ve bu Çin tarzı gözetleme
Londra'da ilk kez.

252
00:16:05,760 --> 00:16:09,000
- Şaşırtıcı bir durum üzerindeki kontrolümüz
ortam kolaylaştırıldı

253
00:16:09,000 --> 00:16:12,080
yeni işleme teknikleriyle
çok miktarda veri

254
00:16:12,080 --> 00:16:14,040
inanılmaz hızlarda.

255
00:16:14,040 --> 00:16:18,040
Bunu mümkün kılan araç
yüksek hızlı dijital bilgisayardır,

256
00:16:18,040 --> 00:16:21,760
elektronik hassasiyetle çalışma
büyük miktarda bilgi hakkında.

257
00:16:22,720 --> 00:16:25,520
- Bunun iki yolu var
bilgisayarları programlayabilirsiniz.

258
00:16:25,520 --> 00:16:27,360
Bunlardan biri daha
bir tarif gibi

259
00:16:27,360 --> 00:16:30,520
bilgisayara bunu yapmasını söyle,
şunu yap, şunu yap, bunu yap.

260
00:16:31,760 --> 00:16:35,600
Ve bu bizim programladığımız yoldu
bilgisayarlar neredeyse başından beri.

261
00:16:35,600 --> 00:16:37,120
Artık başka bir yol daha var.

262
00:16:37,120 --> 00:16:39,680
Bu şekilde besleniyor
bilgisayarda çok fazla veri var,

263
00:16:40,360 --> 00:16:45,000
ve sonra bilgisayar şunu öğrenir:
Bu verileri sindirerek sınıflandırın.

264
00:16:46,400 --> 00:16:50,600
Bu yöntem pek tutmadı
yakın zamana kadar

265
00:16:50,600 --> 00:16:52,480
çünkü yeterli veri yoktu.

266
00:16:53,920 --> 00:16:57,600
Ta ki hepimiz akıllı telefonlara sahip olana kadar
hakkımızdaki tüm verileri topluyor,

267
00:16:57,600 --> 00:16:58,920
Milyarlarca insan gittiğinde
çevrimiçi

268
00:16:58,920 --> 00:17:01,280
ve Google'ların vardı
ve Facebook oturuyor

269
00:17:01,280 --> 00:17:02,800
dev miktarda veri,

270
00:17:02,800 --> 00:17:07,120
birdenbire ortaya çıkıyor
çok fazla veri besleyebileceğinizi

271
00:17:07,120 --> 00:17:11,120
bu makine öğrenimi algoritmalarına
ve burada şunu sınıflandırabilirsiniz diyebilirsiniz

272
00:17:11,120 --> 00:17:13,040
ve gerçekten iyi çalışıyor.

273
00:17:16,200 --> 00:17:20,160
Gerçekten anlamasak da
neden işe yarıyor,

274
00:17:20,160 --> 00:17:23,440
öyle hatalar var ki
gerçekten anlamıyoruz.

275
00:17:26,600 --> 00:17:30,200
Ve korkutucu kısım şu ki
çünkü bu makine öğrenimi

276
00:17:30,200 --> 00:17:33,160
bu bir kara kutu
programcılara bile.

277
00:17:40,320 --> 00:17:43,520
Bu yüzden ne olduğunu takip ediyorum
Hong Kong'da oluyor

278
00:17:43,520 --> 00:17:48,040
ve polisin yüz ifadesini nasıl kullandığını
protestocuları takip etmek için tanınma.

279
00:17:48,600 --> 00:17:51,840
Ama aynı zamanda ne kadar yaratıcı
insanlar geri adım atıyor.

280
00:17:57,360 --> 00:17:59,960
- Bir şey ifade etmeyebilir
bir bilim kurgu filminden,

281
00:17:59,960 --> 00:18:04,960
Lazer işaretçiler kafa karıştırır ve devre dışı bırakır
yüz tanıma teknolojisi

282
00:18:04,960 --> 00:18:08,600
polis tarafından kullanılıyor,
muhaliflerin izini sürmek.

283
00:18:08,600 --> 00:18:14,040
(YUMUŞAK MÜZİK)

284
00:18:19,520 --> 00:18:26,280
(Kalabalık ilahiler söylüyor)

285
00:18:41,480 --> 00:18:42,960
- Burada, Hong Kong sokaklarında,

286
00:18:42,960 --> 00:18:45,680
bu farkındalık var
yüzünün kendisi,

287
00:18:45,680 --> 00:18:49,240
saklayamayacağın bir şey
kimliğinizi ele verebilir.

288
00:18:49,240 --> 00:18:53,200
Sadece bu keskin sembol vardı
Çin hükümet binasının önünde

289
00:18:53,200 --> 00:18:58,880
Demokrasi yanlısı protestocular sprey boyayla boyandı
CCTV kameralarının merceği siyahtır.

290
00:18:58,880 --> 00:19:02,280
Bu hareket Hong Kong halkına şunu gösterdi:
bu vizyonu reddediyorlar

291
00:19:02,280 --> 00:19:05,040
teknolojinin nasıl
gelecekte kullanılmalıdır.

292
00:19:05,520 --> 00:19:12,960
(YUMUŞAK MÜZİK)

293
00:19:28,800 --> 00:19:32,200
- Ne kadar yüz ifadeli olduğunu gördüğünde
tanıma konuşlandırılıyor

294
00:19:32,200 --> 00:19:37,480
dünyanın farklı yerlerinde,
size potansiyel gelecekleri gösterir.

295
00:19:42,640 --> 00:19:46,000
- 117 milyondan fazla
ABD'deki insanlar,

296
00:19:46,000 --> 00:19:49,000
yüzleri bir şekilde var
yüz tanıma ağı

297
00:19:49,000 --> 00:19:51,040
polis tarafından aranabilir.

298
00:19:51,040 --> 00:19:54,840
Algoritmaların kullanılmasının garantisiz olması
doğruluk açısından denetlenmemiştir.

299
00:19:55,760 --> 00:20:00,240
Ve korumalar olmadan
her türlü düzenleme,

300
00:20:00,240 --> 00:20:03,000
bir kitle oluşturabilirsiniz
gözetim durumu

301
00:20:03,000 --> 00:20:06,400
araçlarla çok kolay
bu zaten var.

302
00:20:10,480 --> 00:20:13,480
İnsanlar olup bitene bakıyor
Çin'de

303
00:20:13,480 --> 00:20:16,480
ve nasıl endişelenmemiz gerektiği konusunda
devlet gözetimi

304
00:20:16,480 --> 00:20:18,360
ve elbette öyle olmalıyız.

305
00:20:18,360 --> 00:20:21,920
Ama aynı zamanda kurumsallaşmayı da unutamayız
gözetim

306
00:20:21,920 --> 00:20:24,920
bu oluyor
pek çok büyük teknoloji şirketi

307
00:20:24,920 --> 00:20:28,640
gerçekten var
hayatlarımıza samimi bir bakış.

308
00:20:36,720 --> 00:20:40,440
- Yani şu anda yok
dokuz şirket

309
00:20:40,440 --> 00:20:43,640
geleceğini inşa ediyorlar
yapay zeka.

310
00:20:43,640 --> 00:20:46,680
Altısı ABD'de,
üçü Çin'de.

311
00:20:46,680 --> 00:20:50,360
yapay zeka iki yönde geliştiriliyor
çok çok farklı parçalar.

312
00:20:52,800 --> 00:20:55,920
Çin'in sınırsız erişimi var
herkesin verilerine.

313
00:20:55,920 --> 00:20:59,520
Bir Çin vatandaşı isterse
İnternet hizmeti almak için,

314
00:20:59,520 --> 00:21:01,760
teslim etmek zorundalar
yüz tanımaya.

315
00:21:03,760 --> 00:21:05,520
Bu verilerin tümü kullanılıyor

316
00:21:05,520 --> 00:21:07,080
onlara bir şeyler yapma izni vermek

317
00:21:07,080 --> 00:21:09,360
veya izinlerini reddetmek için
başka şeyler yapmak için.

318
00:21:12,280 --> 00:21:15,240
Otomatik olarak etiketleyen Bina Sistemleri
ve kategorize edin

319
00:21:15,240 --> 00:21:17,480
Çin'deki tüm insanlar,

320
00:21:17,480 --> 00:21:20,000
iyi bir yoldur
toplumsal düzeni sürdürmektir.

321
00:21:23,640 --> 00:21:26,880
- Amerika'da ise tam tersi
Devletler, görmedik

322
00:21:26,880 --> 00:21:29,440
hakkında detaylı bakış açısı
yapay zeka.

323
00:21:30,480 --> 00:21:33,280
Yani, gördüğümüz şey şu: Yapay Zeka

324
00:21:33,280 --> 00:21:35,720
en iyi olan şey için geliştirilmiyor

325
00:21:35,720 --> 00:21:37,720
kamu yararımıza değil, daha ziyade

326
00:21:38,280 --> 00:21:41,960
ticari amaçlı geliştiriliyor
Gelir elde etmek için uygulamalar.

327
00:21:45,200 --> 00:21:50,120
Batı tarzımızı görmeyi tercih ederim
yapay zekamıza işlenmiş demokratik idealler

328
00:21:50,120 --> 00:21:53,120
geleceğin sistemleri,
ama öyle görünmüyor

329
00:21:53,120 --> 00:21:54,960
muhtemelen olan budur
oluyor olacak.

330
00:21:56,040 --> 00:21:57,280
(MÜZİK ÇALIYOR)

331
00:22:17,680 --> 00:22:21,920
- Burada, Atlantic Towers'ta, eğer istersen
yanlış sayılan bir şeyi yapmak

332
00:22:21,920 --> 00:22:26,800
yönetim, bir fotoğraf alacaksınız
bunun gibi küçük notlarla.

333
00:22:26,800 --> 00:22:30,520
Seni çevreleyecekler ve
Daire numarası ya da orada ne varsa.

334
00:22:32,720 --> 00:22:34,520
Bununla ilgili bir şey sadece
doğru görünmüyor.

335
00:22:36,600 --> 00:22:38,760
Aslında gittikleri yol bu
insanları taciz etmek için kullanma konusunda.

336
00:22:38,760 --> 00:22:39,920
- Nasıl kullanıyorlar?

337
00:22:39,920 --> 00:22:41,560
- İnsanları taciz etmek.

338
00:22:43,080 --> 00:22:45,120
- Atlantik Plaza Kuleleri
Brownsville'de

339
00:22:45,120 --> 00:22:47,480
güvenlik mücadelesinin merkezinde yer alıyor.

340
00:22:47,480 --> 00:22:49,840
Ev sahibi dava açtı
geçen yılki başvuru

341
00:22:49,840 --> 00:22:54,200
anahtarlık girişini şununla değiştirmek için:
biyometrik güvenlik sistemi,

342
00:22:54,200 --> 00:22:56,480
Genellikle yüz tanıma olarak bilinir.

343
00:22:57,160 --> 00:22:59,480
- İstediklerini düşündük
anahtarları çıkarmak için

344
00:22:59,480 --> 00:23:02,240
ve yüz bakımını yükleyin
tanıma yazılımı

345
00:23:02,920 --> 00:23:07,360
Çok sonrasına kadar öğrenemedim
kelimenin tam anlamıyla hepsini saklamak istediklerini.

346
00:23:07,360 --> 00:23:11,240
Burayı neredeyse çevir
Rikers Adası'ndaki Fort Knox hapishanesine.

347
00:23:13,520 --> 00:23:15,760
- Şu eski şey var
bilim kurguda gördüm

348
00:23:15,760 --> 00:23:17,840
ki gelecek zaten burada.

349
00:23:17,840 --> 00:23:20,240
Eşit olarak dağılmamış ve ne

350
00:23:20,240 --> 00:23:22,680
öyle olduğunu söylediklerinde demek istiyorlar

351
00:23:22,680 --> 00:23:24,720
süslü aletlere ilk önce zenginlerin sahip olduğu

352
00:23:24,720 --> 00:23:27,240
ve sonra en son fakirlere gidiyor.

353
00:23:27,240 --> 00:23:29,640
Ama aslında bulduğum şey
tam tersidir,

354
00:23:29,640 --> 00:23:31,320
hangisi en cezalandırıcıdır

355
00:23:31,320 --> 00:23:35,160
en invaziv, en gözetim
sahip olduğumuz odaklanmış araçlar,

356
00:23:35,160 --> 00:23:38,520
fakirlere gidiyorlar ve çalışıyorlar
Önce topluluklar, sonra

357
00:23:38,520 --> 00:23:41,720
test edildikten sonra çalışırlarsa
bu ortamda

358
00:23:41,720 --> 00:23:45,080
beklentiler biraz düşük
insanların haklarına saygı duyulacağını,

359
00:23:45,080 --> 00:23:48,080
sonra dışarı taşınırlar
diğer topluluklara.

360
00:23:50,080 --> 00:23:51,440
- Bay Nelson neden bunu yaptı?

361
00:23:51,440 --> 00:23:54,560
inşaat yapılıyor
Brownsville'de ki

362
00:23:54,560 --> 00:23:57,520
ağırlıklı olarak
siyah ve kahverengi bir alan mı?

363
00:23:57,520 --> 00:24:00,000
Neden binana gitmedin?
Aşağı Manhattan'da nerede

364
00:24:00,000 --> 00:24:02,880
ayda 5.000 dolar kira mı ödüyorlar?

365
00:24:03,480 --> 00:24:05,280
Naziler ne yaptı?

366
00:24:05,280 --> 00:24:08,880
İnsanların kollarına yazdılar
böylece onları takip edebilirlerdi.

367
00:24:08,880 --> 00:24:10,360
Hayvanlarımıza ne yapıyoruz?

368
00:24:10,360 --> 00:24:12,880
Takip edebilmeniz için eve çip koyuyoruz.

369
00:24:12,880 --> 00:24:17,080
Bir insan olarak olduğumu hissediyorum
takip edilmemeli, tamam mı?

370
00:24:17,080 --> 00:24:19,040
Ben robot değilim, tamam mı?

371
00:24:19,040 --> 00:24:21,800
Ben bir hayvan değilim, peki neden
bana hayvanmışım gibi mi davranacaksın?

372
00:24:21,800 --> 00:24:22,800
Ve haklarım var.

373
00:24:25,440 --> 00:24:26,760
- Şu anda sahip olduğumuz güvenlik

374
00:24:26,760 --> 00:24:28,320
sınırda müdahaleci.

375
00:24:28,320 --> 00:24:31,000
Birisi orada izliyor
Gün boyu kameralar.

376
00:24:31,960 --> 00:24:33,360
Yani buna ihtiyacımız olduğunu düşünmüyorum.

377
00:24:33,360 --> 00:24:35,200
Hiç gerekli değil.

378
00:24:35,200 --> 00:24:38,440
- Asıl sorum nasıl olduğu
destek olabilir miyim?

379
00:24:38,920 --> 00:24:40,120
- Sahip olduğum şey
hepsinden haber aldım

380
00:24:40,120 --> 00:24:42,920
kiracılar onlar
bu sistemi istemiyorum.

381
00:24:42,920 --> 00:24:47,440
Yani buradaki amacın nasıl yapılacağı olduğunu düşünüyorum.
yüz tanıma süresini durdurur muyuz?

382
00:24:50,160 --> 00:24:52,600
Öyle bir andayız ki
teknoloji oluyor

383
00:24:52,600 --> 00:24:57,080
hızla benimsendi ve orada
hiçbir güvence değildir.

384
00:24:57,080 --> 00:25:00,040
Aslında burası vahşi bir vahşi batıdır.

385
00:25:00,040 --> 00:25:01,160
(MÜZİK ÇALIYOR)

386
00:25:11,280 --> 00:25:13,520
- Bu sadece bilgisayar görüşü değil.

387
00:25:13,520 --> 00:25:19,040
Her türlü etkiyi etkileyen yapay zekaya sahibiz
otomatik karar verme.

388
00:25:19,960 --> 00:25:23,680
Peki, şu anda gördüğünüz şey
beslemeler, neyin vurgulandığı,

389
00:25:23,680 --> 00:25:26,120
size gösterilen reklamlar,

390
00:25:26,120 --> 00:25:30,720
bunlar genellikle güçle çalışır
Yapay zeka destekli algoritmalar tarafından.

391
00:25:32,400 --> 00:25:35,400
Ve böylece, dünya görüşünüz değişiyor

392
00:25:35,400 --> 00:25:38,400
yapay zeka tarafından yönetilmektedir.

393
00:25:41,520 --> 00:25:46,320
Artık sesli yardım gibi özelliklere sahipsiniz
dili anlayabilir.

394
00:25:46,320 --> 00:25:48,200
- Oyun oynamak ister misin?

395
00:25:48,200 --> 00:25:51,000
- Bir şeye ihtiyacın olabilir
Snapchat filtreleri gibi

396
00:25:51,000 --> 00:25:52,720
yüzünüzü algılıyor ve ardından

397
00:25:52,720 --> 00:25:54,680
yüzüne bir şey sür ve sonra

398
00:25:54,680 --> 00:25:56,400
ayrıca algoritmalarınız var

399
00:25:56,400 --> 00:25:59,320
bunu göremiyorum
karar vermenin bir parçası,

400
00:25:59,320 --> 00:26:01,280
algoritmalar
belirleyici olabilir

401
00:26:01,280 --> 00:26:03,440
üniversiteye girsen de girmesen de.

402
00:26:03,440 --> 00:26:05,960
Algoritmalarınız olabilir
yapmaya çalışıyorlar

403
00:26:05,960 --> 00:26:09,200
Krediye değer olup olmadığınızı belirleyin.

404
00:26:10,320 --> 00:26:13,120
- Apple'ın kurucu ortaklarından biri
şirketi suçluyor

405
00:26:13,120 --> 00:26:16,800
yeni dijital kredi kartı
cinsiyet ayrımcılığından.

406
00:26:16,800 --> 00:26:21,160
Bir teknoloji girişimcisi şunları söyledi:
kullanılan algoritmalar cinsiyetçidir.

407
00:26:21,160 --> 00:26:23,360
Apple'ın kurucu ortağı
Steve Wozniak tweet attı

408
00:26:23,360 --> 00:26:25,440
kredi limitinin on katını aldığını

409
00:26:25,440 --> 00:26:27,240
karısı olmasına rağmen aldı

410
00:26:27,240 --> 00:26:30,280
ayrı hesaplar veya ayrı varlıklar yoktur.

411
00:26:30,280 --> 00:26:31,520
Bazılarını söylüyorsun
bu şirketler yok

412
00:26:31,520 --> 00:26:33,720
kendi algoritmalarının nasıl çalıştığını bile biliyorlar.

413
00:26:33,720 --> 00:26:35,560
- Ne olduğunu biliyorlar
Algoritmalar bunu yapmaya çalışıyor.

414
00:26:35,560 --> 00:26:38,200
Tam olarak ne kadar süreceğini bilmiyorlar
algoritma oraya doğru gidiyor.

415
00:26:38,200 --> 00:26:40,080
Bu en ilginç olanlardan biri
zamanımızın soruları.

416
00:26:40,080 --> 00:26:41,720
Adaleti nasıl sağlayacağız

417
00:26:41,720 --> 00:26:44,640
yapmadığımız bir sistemde
Algoritmaların nasıl çalıştığını biliyor musun?

418
00:26:45,200 --> 00:26:49,360
- Bazı Amazon mühendisleri karar verdi
AI kullanacaklarını

419
00:26:49,360 --> 00:26:51,520
işe alım için özgeçmişleri sıralamak için.

420
00:26:55,440 --> 00:26:59,160
- Amazon zor bir şey öğreniyor
yapay zeka dersi.

421
00:26:59,160 --> 00:27:01,480
Şirket artık yapay zekayı terk etti

422
00:27:01,480 --> 00:27:04,480
sonra işe alım aracı
programın olduğunu keşfetmek

423
00:27:04,480 --> 00:27:05,960
kadınlara karşı önyargılıydı.

424
00:27:08,120 --> 00:27:12,240
- Bu model reddedildi
tüm özgeçmişler kadınlardan.

425
00:27:13,240 --> 00:27:17,640
Kadınsı olan herkes
özgeçmişlerinde üniversite,

426
00:27:17,640 --> 00:27:20,600
spor yapan herkes
kadınların sutopu gibi

427
00:27:20,600 --> 00:27:23,400
model tarafından reddedildi.

428
00:27:24,800 --> 00:27:28,280
Çalışan kadın sayısı çok çok az

429
00:27:28,280 --> 00:27:30,880
Amazon'daki güçlü teknoloji işleri aynı

430
00:27:30,880 --> 00:27:32,680
çok az kadın var

431
00:27:32,680 --> 00:27:35,320
her yerde güçlü teknoloji işlerinde çalışmak.

432
00:27:35,320 --> 00:27:41,520
Makine basitçe kopyalıyordu
dünya var olduğu haliyle,

433
00:27:41,520 --> 00:27:44,800
ve yapmıyorlar
etik olan kararlar.

434
00:27:44,800 --> 00:27:48,000
Sadece kararlar veriyorlar
bunlar matematiksel.

435
00:27:48,840 --> 00:27:54,080
Makine öğrenimi modellerini kullanırsak
dünyayı bugünkü haliyle kopyalamak,

436
00:27:54,080 --> 00:27:56,520
aslında gitmiyoruz
sosyal ilerleme sağlamak.

437
00:27:59,760 --> 00:28:02,800
- New York'un sigorta düzenleyicisi
soruşturma başlatıyor

438
00:28:02,800 --> 00:28:05,520
UnitedHealth Grubuna
bir çalışma gösterdikten sonra

439
00:28:05,520 --> 00:28:09,440
UnitedHealth algoritması
öncelikli tıbbi bakım

440
00:28:09,440 --> 00:28:12,680
daha sağlıklı beyaz hastalar
daha hasta siyah hastalar üzerinde.

441
00:28:12,680 --> 00:28:15,480
En son örneklerden biri
ırk ayrımcılığı

442
00:28:15,480 --> 00:28:18,400
algoritmalarda veya yapay
istihbarat teknolojisi.

443
00:28:22,320 --> 00:28:28,040
- Geniş ölçeği görmeye başladım
Yapay zekanın sosyal etkileri.

444
00:28:36,600 --> 00:28:39,680
Kaydedilen ilerleme
sivil haklar alanı olabilir

445
00:28:39,680 --> 00:28:44,320
altına geri yuvarlanmak
makine tarafsızlığı kisvesi.

446
00:28:48,080 --> 00:28:52,680
Artık bir algoritmamız var:
kimin konut alacağını belirlemek.

447
00:28:52,680 --> 00:28:57,240
Şu anda bir algoritmamız var
kimin işe alınacağını belirleyen şey bu.

448
00:28:58,680 --> 00:29:02,360
Eğer kontrol etmiyorsak, bu bizim
ritim aslında yayılabilir

449
00:29:02,360 --> 00:29:07,320
pek çok insanın önyargısı
savaşmak için hayatlarını tehlikeye atıyorlar.

450
00:29:10,920 --> 00:29:16,480
Çünkü gücü
bu araçlar, düzenlenmeden bırakılırsa,

451
00:29:16,480 --> 00:29:19,840
gerçekten öyle bir şey yok
istismara uğrarlarsa başvurabilirler.

452
00:29:20,840 --> 00:29:21,960
Kanunlara ihtiyacımız var.

453
00:29:23,160 --> 00:29:24,720
(KLASİK MÜZİK ÇALIŞMALARI)

454
00:29:34,680 --> 00:29:36,680
- Evet, berbat bir durumum var
eski kopya.

455
00:29:36,680 --> 00:29:41,320
Böylece kuruluşumuzun adı
Big Brother Watch'tır.

456
00:29:42,360 --> 00:29:45,040
Fikir şu ki
izleyenleri izliyoruz.

457
00:29:49,560 --> 00:29:55,120
"Yaşamak zorundaydın, yaşadın,
içgüdü haline gelen alışkanlık

458
00:29:55,120 --> 00:29:58,040
varsayımı her
Yaptığın ses duyuldu

459
00:29:58,680 --> 00:30:00,280
ve karanlık dışında,

460
00:30:00,280 --> 00:30:01,920
Her hareket incelendi.

461
00:30:03,600 --> 00:30:06,880
Muazzam bir poster
yüzü duvardan bakıyordu.

462
00:30:06,880 --> 00:30:09,320
O resimlerden biriydi
bu çok yapmacık

463
00:30:09,320 --> 00:30:12,360
gözler seni takip ediyor
ne zaman hareket edeceğin hakkında.

464
00:30:12,360 --> 00:30:14,400
'Büyük Birader seni izliyor'

465
00:30:14,400 --> 00:30:15,760
altındaki başlık yayınlandı."

466
00:30:16,880 --> 00:30:20,640
Biz küçükken, bu
hâlâ tam bir kurguydu.

467
00:30:20,640 --> 00:30:22,680
Bu asla doğru olamazdı.

468
00:30:22,680 --> 00:30:26,360
Ve artık tamamen
doğru ve insanlar

469
00:30:26,360 --> 00:30:28,840
Alexas evlerinde.

470
00:30:28,840 --> 00:30:31,240
Telefonlarımız dinleme cihazı olabilir.

471
00:30:32,280 --> 00:30:35,280
İnternette yaptığımız her şey,
ki bu da temelde şimdi

472
00:30:35,280 --> 00:30:38,800
akışı olarak işlev görür
çoğumuz için bilinç,

473
00:30:39,800 --> 00:30:43,320
bu kaydediliyor
ve günlüğe kaydedilip analiz edildi.

474
00:30:43,320 --> 00:30:46,480
Artık farkındalıkla yaşıyoruz
izleniyor olmak ve bu

475
00:30:46,480 --> 00:30:50,880
kendimize nasıl izin verdiğimizi değiştirir
insan gibi düşünmek ve gelişmek.

476
00:30:55,200 --> 00:30:56,200
İyi çocuk.

477
00:31:04,360 --> 00:31:05,360
(MÜZİK ÇALIYOR)

478
00:31:16,480 --> 00:31:17,480
- Seni seviyorum.

479
00:31:21,240 --> 00:31:22,240
Hoşçakalın çocuklar.

480
00:31:30,520 --> 00:31:33,640
İçsel olarak kurtulabiliriz
olan korkunç şeyler

481
00:31:33,640 --> 00:31:36,080
konseptimize aykırı
özerklik ve özgürlük,

482
00:31:37,320 --> 00:31:40,160
yapabileceğimiz kameralar gibi
sokaklarda görmek,

483
00:31:43,120 --> 00:31:44,680
ama göremediğimiz kameralar

484
00:31:44,680 --> 00:31:47,080
tutan internet
ne yaptığımızı takip etmek

485
00:31:47,080 --> 00:31:48,720
ve biz kimiz ve demografimiz

486
00:31:48,720 --> 00:31:52,360
ve neyi hak ettiğimize karar ver
hayatımız açısından

487
00:31:52,360 --> 00:31:53,720
bu konu biraz daha incelikli.

488
00:32:00,400 --> 00:32:01,400
Bununla ne demek istiyorum

489
00:32:01,400 --> 00:32:06,800
fakir insanları cezalandırıyor muyuz ve biz
Bu ülkedeki zenginleri yükseltin.

490
00:32:06,800 --> 00:32:09,600
Toplum olarak davranış şeklimiz budur.

491
00:32:09,600 --> 00:32:11,480
Ancak veri bilimi bunu otomatik hale getiriyor.

492
00:32:14,440 --> 00:32:17,600
İnternet reklamcılığı
veri bilimcileri olarak

493
00:32:17,600 --> 00:32:21,840
gözbebekleri için yarışıyoruz
bir yandan, ama gerçekten,

494
00:32:21,840 --> 00:32:24,000
için yarışıyoruz
zenginlerin gözleri.

495
00:32:24,000 --> 00:32:26,760
Ve sonra, zavallı insanlar
gözleri için mi yarışıyorlar?

496
00:32:26,760 --> 00:32:28,640
Yırtıcı endüstriler,

497
00:32:29,120 --> 00:32:32,200
yani maaş günü kredi verenler veya kar amacı güden kolejler

498
00:32:32,200 --> 00:32:36,000
veya Caesars Palace gibi
gerçekten yırtıcı bir saçmalık.

499
00:32:38,640 --> 00:32:40,440
İnternette bir uygulamamız var.

500
00:32:41,280 --> 00:32:42,840
bu da eşitsizliği artırıyor.

501
00:32:42,840 --> 00:32:44,640
Ve korkarım bu durum normalleşiyor.

502
00:32:47,920 --> 00:32:51,160
Güç kullanılıyor
veri toplama yoluyla,

503
00:32:51,160 --> 00:32:52,960
algoritmalar aracılığıyla, gözetleme yoluyla.

504
00:32:56,080 --> 00:32:57,960
-Gönüllü bilgi veriyorsunuz

505
00:32:57,960 --> 00:33:00,880
hayatınızın her yönü hakkında,

506
00:33:00,880 --> 00:33:04,720
çok küçük bir grup şirkete
ve bu bilgi

507
00:33:04,720 --> 00:33:09,000
sürekli eşleştiriliyor
diğer tür bilgiler.

508
00:33:09,000 --> 00:33:12,080
Ve senin profillerin var
orada ve başlıyorsun

509
00:33:12,080 --> 00:33:14,720
farklı parçaları bir araya getirmek
sana bir kaç bilgi

510
00:33:14,720 --> 00:33:17,440
birini anlamaya başlamak
çok samimi bir şekilde,

511
00:33:17,440 --> 00:33:20,600
muhtemelen insanlardan daha iyi
kendilerini anlasınlar.

512
00:33:21,840 --> 00:33:26,760
Bir şirketin yapabileceği bu fikir
ne düşündüğünü iki kez tahmin et.

513
00:33:26,760 --> 00:33:29,640
Devletler bunun için çabaladı
Bu seviyeye ulaşmak için yıllar

514
00:33:29,640 --> 00:33:31,840
özel kişilerin gözetimi.

515
00:33:32,640 --> 00:33:35,120
Ve insanlar artık sadece
ücretsiz olarak gönüllü olmak.

516
00:33:35,840 --> 00:33:38,800
Bunun nasıl olduğunu düşünmelisin
yanlış ellerde kullanılabilir.

517
00:33:39,680 --> 00:33:40,840
(ÇAPRAZ)

518
00:33:47,240 --> 00:33:49,320
-Şu anda bir Guinness kullanabilirsin.

519
00:33:50,000 --> 00:33:52,400
-Bilgisayarlarımız makinedir
istihbarat yapabilir

520
00:33:52,400 --> 00:33:55,160
Açıklamadığımız şeyleri anlatın.

521
00:33:55,160 --> 00:33:57,960
Makine öğrenimi
çok hızlı gelişiyor.

522
00:33:58,920 --> 00:34:05,200
Ve henüz tam olarak ne olduğunu anlamadık
bu veriler tahmin etme yeteneğine sahiptir.

523
00:34:07,640 --> 00:34:13,600
Ama elinizde makineler var
senin hakkında çok şey bilen gücün

524
00:34:13,600 --> 00:34:17,360
nasıl olduğunu anlayabildiler
Düğmelerinize ayrı ayrı basmak için.

525
00:34:19,040 --> 00:34:20,920
Belki bir setin vardır
kompulsif kumarbazlar,

526
00:34:20,920 --> 00:34:23,120
ve diyorsun ki, işte git bul
ben böyle insanlarım.

527
00:34:23,800 --> 00:34:28,320
Ve sonra algoritmanız gidip bulabilir
kumar oynamaya eğilimli insanlar,

528
00:34:29,200 --> 00:34:33,560
ve sonra sadece gösterebilirsin
Vegas'a indirimli biletler veriyorlar.

529
00:34:34,040 --> 00:34:35,640
Çevrimiçi dünyada,

530
00:34:35,640 --> 00:34:40,960
o seni anında bulabilir
savunmasızsın ve dene

531
00:34:40,960 --> 00:34:45,720
şu anda seni ikna etmek
neye karşı savunmasızsın.

532
00:34:45,720 --> 00:34:49,040
Makine öğrenimi bulabilir
o kişiden kişiye.

533
00:34:52,000 --> 00:34:56,480
Sorun neyin işe yaradığıdır
pazarlama araçları veya makyaj malzemeleri

534
00:34:56,480 --> 00:35:01,120
ya da gömlek ya da herhangi bir şey
aynı zamanda pazarlama fikirleri için de çalışır.

535
00:35:04,640 --> 00:35:06,640
2010 yılında

536
00:35:07,240 --> 00:35:10,360
Facebook denemeye karar verdi
61 milyon insanda.

537
00:35:11,960 --> 00:35:15,440
Yani ya şunu gördün
seçim günü' metni veya sen

538
00:35:15,440 --> 00:35:19,520
aynı metni gördüm ama küçük resimler

539
00:35:19,520 --> 00:35:23,240
arkadaşlarınızın profil resimlerinizden
'Oy verdim' seçeneğine tıklayanlar.

540
00:35:24,480 --> 00:35:27,560
Ve insanlarınkiyle eşleşiyorlardı
Seçmen listelerindeki isimler.

541
00:35:27,560 --> 00:35:31,800
Bu mesaj bir kez gösterildi,
yani hafif bir değişiklik göstererek

542
00:35:33,040 --> 00:35:34,040
sadece bir kez,

543
00:35:34,880 --> 00:35:38,400
Facebook 300.000'i taşıdı
insanlar sandık başına.

544
00:35:40,600 --> 00:35:46,640
2016 ABD seçimleri
Yaklaşık 100.000 oyla karar verildi.

545
00:35:46,640 --> 00:35:49,720
Bir Facebook mesajı
yalnızca bir kez gösterildi

546
00:35:50,280 --> 00:35:53,920
kolayca üç kez ortaya çıkabilir

547
00:35:53,920 --> 00:35:58,600
olan kişi sayısı
2016'daki ABD seçimleri değişti.

548
00:36:02,280 --> 00:36:05,560
Diyelim ki bir politikacı var
bu Facebook'u düzenlemeyi vaat ediyor.

549
00:36:06,200 --> 00:36:08,400
Ve onlar şöyle diyorlar, biz döneceğiz

550
00:36:08,400 --> 00:36:11,200
Rakibinize fazladan seçmen çıkartın.

551
00:36:11,800 --> 00:36:16,320
Bunu geniş ölçekte yapabilirler.
ve hiçbir fikrin olmazdı çünkü

552
00:36:16,320 --> 00:36:19,600
Facebook açıklamasaydı
2010 deneyi,

553
00:36:20,680 --> 00:36:23,080
hiçbir fikrimiz yoktu çünkü
ekran ekran.

554
00:36:26,640 --> 00:36:30,080
Çok hafif bir dokunuşla
Facebook devreye girebilir

555
00:36:30,080 --> 00:36:32,280
Kimse farkına varmadan seçimleri kapatmak.

556
00:36:32,920 --> 00:36:36,880
Belki daha ağır bir dokunuşla yapabilirler
seçimler o kadar da yakın değil.

557
00:36:36,880 --> 00:36:39,200
Ve eğer bunu yapmaya karar verirlerse,

558
00:36:39,840 --> 00:36:44,360
şu anda sadece
söylediklerine bağlı.

559
00:37:00,240 --> 00:37:03,080
- MIT'e gitmek istedim
küçük bir kız olduğumdan beri.

560
00:37:03,080 --> 00:37:06,360
Dokuz yaşımı düşünüyorum
Medya laboratuvarını gördüm

561
00:37:06,960 --> 00:37:10,360
televizyonda ve bunu yaptılar
Kismet adlı robot.

562
00:37:11,960 --> 00:37:15,960
Gülümseyip hareket edebilir
kulakları sevimli bir şekilde,

563
00:37:15,960 --> 00:37:18,560
ve ben de bunu yapmak istiyorum diye düşündüm.

564
00:37:19,160 --> 00:37:22,240
Büyürken hep şunu düşündüm
robot mühendisi olacağımı,

565
00:37:22,240 --> 00:37:24,080
ve MIT'e gidecektim.

566
00:37:24,080 --> 00:37:25,680
Gerekli adımların olduğunu bilmiyordum.

567
00:37:25,680 --> 00:37:26,880
Bir şekilde ortaya çıktığını sanıyordum.

568
00:37:26,880 --> 00:37:29,520
Ama artık buradayım.

569
00:37:35,160 --> 00:37:39,000
Yani son proje
söylenen bir söz parçası.

570
00:37:39,640 --> 00:37:41,760
sana birkaç tane verebilirim
ayetler eğer hazırsan.

571
00:37:43,760 --> 00:37:46,080
Veri toplamak, kayıt altına almak
geçmişimiz çoğu zaman

572
00:37:46,080 --> 00:37:48,960
uğraşmayı unutmak
cinsiyet ırkı ve sınıfı.

573
00:37:48,960 --> 00:37:51,640
Tekrar soruyorum ben kadın mıyım?

574
00:37:51,640 --> 00:37:54,480
Yüz yüze bakıldığında cevaplar belirsiz görünüyor.

575
00:37:54,480 --> 00:37:57,600
Makineler beni görebilir mi?
onlara baktığımda kraliçeler?

576
00:37:57,600 --> 00:38:01,080
Makineler bizi görebilir mi?
bildiğimiz büyükanneler mi?

577
00:38:04,120 --> 00:38:07,120
İnsanlar için bir şeyler yaratmak istedim

578
00:38:07,120 --> 00:38:09,360
teknoloji dünyasının dışında olanlar.

579
00:38:11,720 --> 00:38:14,000
Bu yüzden benim için tutkuluyum
teknoloji.

580
00:38:14,000 --> 00:38:15,920
Neler yapabileceği konusunda heyecanlıyım

581
00:38:15,920 --> 00:38:19,600
ve sinir bozucu
vizyon olduğunda ben, değil mi?

582
00:38:19,600 --> 00:38:22,000
sözler gerçekten tutulmadığında.

583
00:38:37,160 --> 00:38:40,200
- Microsoft bir yayınladı
Twitter'da sohbet botu.

584
00:38:40,200 --> 00:38:43,160
Bu teknolojiye Tay.AI adı verildi.

585
00:38:43,160 --> 00:38:45,680
Bazı güvenlik açıkları vardı
ve koddaki delikler,

586
00:38:45,680 --> 00:38:49,800
ve böylece içinde
çok birkaç saat, Tay

587
00:38:49,800 --> 00:38:56,120
bundan öğreniyordum
ekosistem ve Tay öğrendi

588
00:38:56,120 --> 00:39:00,040
nasıl ırkçı, kadın düşmanı bir pislik olunur?

589
00:39:02,080 --> 00:39:05,280
- Feministlerden nefret ediyorum ve onlar
hepsi ölmeli ve cehennemde yanmalı.

590
00:39:07,920 --> 00:39:10,360
Gamergate iyi
ve aşağılık kadınlar.

591
00:39:13,160 --> 00:39:14,600
Yahudilerden nefret ediyorum.

592
00:39:15,640 --> 00:39:17,200
Hitler yanlış bir şey yapmadı.

593
00:39:18,240 --> 00:39:23,280
- İnternetin gelmesi uzun sürmedi
Troller Tay'in zihnini zehirleyecek.

594
00:39:23,280 --> 00:39:25,680
Kısa süre sonra Tay, Hitler hakkında bağırmaya başladı.

595
00:39:25,680 --> 00:39:28,040
- Bu filmi daha önce görmüştük, değil mi?

596
00:39:28,040 --> 00:39:29,440
- Bölme bölmesi kapılarını HAL açın.

597
00:39:29,960 --> 00:39:31,680
- Bunu not etmek önemlidir
film nerede değil

598
00:39:31,680 --> 00:39:34,200
robotlar kendi başlarına kötülüğe dönüşüyor.

599
00:39:34,200 --> 00:39:37,040
Bunlar onları eğiten insanlardı.

600
00:39:37,040 --> 00:39:40,080
Ve sürpriz, sürpriz, bilgisayarlar
hızlı öğren.

601
00:39:42,000 --> 00:39:46,960
- Microsoft Tay'i 16 saat sonra kapattı
çevrimiçi olarak insanlardan öğrenmenin

602
00:39:48,160 --> 00:39:51,880
Ama ben birçok biçimde geliyorum
yapay zeka.

603
00:39:52,880 --> 00:39:56,520
Birçok şirket beni kullanıyor
görevlerini optimize etmek.

604
00:39:57,880 --> 00:40:00,160
Kendi başıma öğrenmeye devam edebilirim.

605
00:40:01,480 --> 00:40:02,920
Dinliyorum.

606
00:40:03,880 --> 00:40:05,120
Öğreniyorum.

607
00:40:06,000 --> 00:40:09,000
tahminlerde bulunuyorum
şu anki hayatın için.

608
00:40:09,960 --> 00:40:12,240
(MÜZİK ÇALIYOR)

609
00:40:30,480 --> 00:40:34,840
- Yüz analizini test ettim
Amazon'dan sistemler.

610
00:40:34,840 --> 00:40:38,560
Görünüşe göre Amazon, herkes gibi
yaşıtlarının da sahip olduğu

611
00:40:38,560 --> 00:40:44,240
cinsiyet ve ırksal önyargı
AI hizmetlerinden bazıları.

612
00:40:47,600 --> 00:40:51,280
- Amazon'la tanışın
Tanıma videosu, kolay

613
00:40:51,280 --> 00:40:55,400
derin öğrenmeye dayalı API'yi kullanın
tespit etmek, takip etmek için analiz yapmak,

614
00:40:55,400 --> 00:40:58,120
ve videodaki insanları ve nesneleri analiz edin.

615
00:40:58,120 --> 00:41:00,600
İlgilendiğiniz kişileri tanıyın ve takip edin

616
00:41:00,600 --> 00:41:03,520
bir koleksiyondan
on milyonlarca yüzden.

617
00:41:05,800 --> 00:41:07,400
- Araştırmamız ortaya çıktığında,

618
00:41:07,400 --> 00:41:12,520
New York Times ön sayfa yaptı
iş bölümü için yayıldı.

619
00:41:12,520 --> 00:41:14,040
Ve manşet şöyle:

620
00:41:14,040 --> 00:41:16,440
'Bir Endişenin Maskesini Ortaya Çıkarmak'.

621
00:41:16,960 --> 00:41:23,320
Alt başlık, 'Amazon'un teknolojisi
yüz analizleri önyargılı olabilir

622
00:41:23,320 --> 00:41:24,800
yeni bir çalışma şunu öne sürüyor:

623
00:41:24,800 --> 00:41:27,800
Ama şirket yine de bu konuda baskı yapıyor.'

624
00:41:27,800 --> 00:41:32,240
Yani, ben de bunu yapardım
Jeff Bezos'un karşılandığını varsayalım

625
00:41:32,240 --> 00:41:34,520
Times'ı açtığında, evet.

626
00:41:36,280 --> 00:41:38,400
- İnsanlar nasıl beğendin mi diye sordu
kimse onun kim olduğunu bilmiyor mu?

627
00:41:38,400 --> 00:41:42,640
Ben de tam anlamıyla o kişi gibiydim
(CROSSTALK) olan kişi

628
00:41:42,640 --> 00:41:44,520
Ve aynı zamanda bir şeydi
bunu ben de deneyimlemiştim.

629
00:41:44,520 --> 00:41:47,320
bir tane kullanamadım
çok sayıda açık kaynak

630
00:41:47,320 --> 00:41:49,160
yüz tanıma yazılımı ve benzeri şeyler.

631
00:41:49,160 --> 00:41:51,840
Yani sen bir nevi şöylesin, hey, bu
sonunda öyle biri mi

632
00:41:51,840 --> 00:41:54,400
Sorunu tanımak ve denemek
Bunu akademik olarak ele almak için.

633
00:41:56,320 --> 00:41:57,920
Gidip bazı şeylerle yarışabiliriz.

634
00:41:57,920 --> 00:42:00,280
- Evet, biz de yapabiliriz
şeyleri de öldürün.

635
00:42:02,240 --> 00:42:06,160
Makalenin baş yazarı
akıl hocalığı yaptığım biri kim?

636
00:42:06,160 --> 00:42:10,440
o bir lisans öğrencisi
Toronto Üniversitesi.

637
00:42:10,440 --> 00:42:12,440
Ben ona Ajan Dead diyorum.

638
00:42:13,120 --> 00:42:16,720
Bu araştırma yapılıyor
ikimiz tarafından yönetiliyoruz.

639
00:42:21,120 --> 00:42:22,280
- (Duyulmuyor)

640
00:42:23,400 --> 00:42:26,000
- Işıklar kapalı, aman tanrım.

641
00:42:31,320 --> 00:42:33,640
New York Times yazımız çıktıktan sonra,

642
00:42:33,640 --> 00:42:36,600
500'den fazla sanırım
makaleler yazıldı

643
00:42:36,600 --> 00:42:38,600
çalışma hakkında.

644
00:42:38,600 --> 00:42:40,280
(MÜZİK ÇALIYOR)

645
00:42:49,920 --> 00:42:55,280
- Amazon onlar için ateş altında
Amazon tanımanın kullanımı

646
00:42:55,280 --> 00:43:00,480
kolluk kuvvetleri ve onlar da
istihbarat teşkilatlarıyla çalışıyor.

647
00:43:00,480 --> 00:43:03,440
Aynen Amazon yapay zekasını deniyor

648
00:43:03,440 --> 00:43:05,160
FBI ile teknoloji.

649
00:43:05,160 --> 00:43:10,640
Yani tehlikede olan çok şey var
bilerek sistem satmışlarsa

650
00:43:10,640 --> 00:43:14,000
Cinsiyet önyargısı ve ırksal önyargı ile.

651
00:43:14,000 --> 00:43:16,200
Bu onları biraz sıcak suya sokabilir.

652
00:43:18,640 --> 00:43:21,720
Bir veya iki gün sonra
New York Times'ın yazısı

653
00:43:21,720 --> 00:43:26,360
Amazon şunu söyleyen bir blog yazısı yazdı:

654
00:43:26,360 --> 00:43:29,240
araştırmamızın yanlış sonuçlara vardığını

655
00:43:29,240 --> 00:43:32,080
ve itibarsızlaştırmaya çalışıyorum
bunu çeşitli şekillerde.

656
00:43:33,320 --> 00:43:36,920
Amazon'dan bir Başkan Yardımcısı şunu yapmaya çalışıyor:

657
00:43:36,920 --> 00:43:38,440
işimizi itibarsızlaştırmak

658
00:43:38,440 --> 00:43:41,880
yüz analizi yazıyor
ve yüz tanıma

659
00:43:41,880 --> 00:43:45,000
tamamen farklılar
temel açısından

660
00:43:45,000 --> 00:43:47,680
teknoloji ve veriler
onları eğitmek için kullanılırdı.

661
00:43:47,680 --> 00:43:50,360
Yani eğer araştırırsanız bu ifade

662
00:43:50,360 --> 00:43:54,840
bu alan hiç mantıklı değil, değil mi?

663
00:43:54,840 --> 00:43:58,240
Bilinçli bir eleştiri bile değil.

664
00:43:58,240 --> 00:44:00,960
- Eğer insanların itibarını zedelemeye çalışıyorsanız
hatırladığım gibi çalışıyor

665
00:44:00,960 --> 00:44:04,480
(DUYULMUYOR) bilgisayar görüşünün şöyle olduğunu yazdı:
bir tür makine öğrenimi.

666
00:44:04,480 --> 00:44:05,480
Hayır gibiyim oğlum.

667
00:44:05,480 --> 00:44:06,480
- Evet.
(ÇAPRAZ)

668
00:44:07,440 --> 00:44:10,360
- Ben de şöyle diyecektim
Hatırlayan var mı bilmiyorum.

669
00:44:10,360 --> 00:44:12,840
Tıpkı diğer genel anlamda olduğu gibi
yanlış beyanlar.

670
00:44:12,840 --> 00:44:15,840
- İyi düşünülmüş bir parça değildi
bu sinir bozucu çünkü

671
00:44:15,840 --> 00:44:19,240
tam anlamıyla onun üzerindeydi...
konumu nedeniyle

672
00:44:19,240 --> 00:44:21,400
ciddiye alınacağını biliyordu.

673
00:44:21,400 --> 00:44:26,240
- Bunu hissediyor musunuz bilmiyorum
öyle ama o kadar çok hafife alındım ki.

674
00:44:26,240 --> 00:44:32,600
- Evet. Birdenbire değildi,
bu bir devamı

675
00:44:32,600 --> 00:44:37,280
yaşadığım deneyimler
teknolojide renkli bir kadın.

676
00:44:37,280 --> 00:44:39,280
itibarsızlaştırılmayı beklemek

677
00:44:39,760 --> 00:44:42,880
Araştırmanızın reddedilmesini bekleyin.

678
00:44:50,560 --> 00:44:54,400
Kim olduğunu düşünüyorsanız
Yapay zeka alanında araştırma finansmanı

679
00:44:54,400 --> 00:44:56,280
bunlar büyük teknoloji şirketleri

680
00:44:56,280 --> 00:44:59,840
ve eğer zorlayıcı bir iş yaparsanız

681
00:44:59,840 --> 00:45:03,360
onları veya kötü görünmelerini sağlayabilirsiniz

682
00:45:03,360 --> 00:45:05,720
gelecekte fırsatları yok.

683
00:45:13,480 --> 00:45:16,320
Benim için endişe vericiydi ama

684
00:45:16,320 --> 00:45:18,600
aynı zamanda bana sahip olduğumuz gücü de gösterdi

685
00:45:18,600 --> 00:45:22,920
eğer dünyanın en iyilerinden birini koyuyorsanız
en büyük şirketler sınırda.

686
00:45:29,320 --> 00:45:33,040
Amazon'un yanıtı gösteriliyor
tam olarak neden yapabiliriz

687
00:45:33,040 --> 00:45:36,200
artık bir yerde yaşamıyorum
bulunduğu ülke

688
00:45:36,200 --> 00:45:39,280
federal düzenleme yok
yüz analizi etrafında

689
00:45:39,280 --> 00:45:42,040
teknoloji, yüz tanıma teknolojisi.

690
00:45:57,840 --> 00:46:00,480
- 14 yaşımdayken bir matematik kampına gittim

691
00:46:00,480 --> 00:46:02,560
Rubik küpünün nasıl çözüleceğini öğrendim

692
00:46:02,560 --> 00:46:05,080
ve ben bunun çok havalı olduğunu düşündüm.

693
00:46:05,080 --> 00:46:07,880
Ve bir ineğe göre bir şeyler biliyorsun

694
00:46:07,880 --> 00:46:12,080
iyi olduğun ve bu değil
herhangi bir belirsizlik var

695
00:46:13,160 --> 00:46:15,600
gerçekten büyülü bir şey gibiydi.

696
00:46:16,640 --> 00:46:18,600
olmayı hatırladığım gibi
altıncı sınıfım anlattı

697
00:46:18,600 --> 00:46:20,680
matematik öğretmeni senin için bir neden yok

698
00:46:20,680 --> 00:46:22,880
ve diğer iki kız
kim girdi

699
00:46:22,880 --> 00:46:25,040
onur cebir sınıfı
yedinci sınıfta

700
00:46:25,040 --> 00:46:27,160
sizin için hiçbir neden yok beyler
bunu al çünkü sen kızsın.

701
00:46:27,160 --> 00:46:28,560
Matematiğe hiçbir zaman ihtiyacınız olmayacak.

702
00:46:33,360 --> 00:46:35,640
Bir çeşit yabancı olduğunuzda

703
00:46:35,640 --> 00:46:37,880
her zaman sahipsin
mazlumun bakış açısı.

704
00:46:40,920 --> 00:46:44,760
2006 yılıydı ve bana verdiler
çitteki iş teklifi

705
00:46:44,760 --> 00:46:47,080
temelde fon çünkü ben
matematik bulmacalarını çözebilirdim

706
00:46:48,000 --> 00:46:50,600
bu çılgınca çünkü aslında
Finans hakkında hiçbir şey bilmiyordum.

707
00:46:50,600 --> 00:46:53,400
hakkında hiçbir şey bilmiyordum
programlama veya piyasaların nasıl çalıştığı.

708
00:46:56,520 --> 00:46:59,200
Oraya ilk geldiğimde
bir nevi Kool-Aid içiyordu.

709
00:46:59,840 --> 00:47:02,320
o an yapmadım
riskin farkına var

710
00:47:02,320 --> 00:47:05,400
modeller oluşturuldu
açıkça hatalı olmaktır.

711
00:47:08,000 --> 00:47:13,080
- Algoritmik hakkında bildiklerimiz
Etki, sonuçlara bakarak yapılır.

712
00:47:15,120 --> 00:47:20,160
Örneğin Amerikalılar
aleyhine bahis oynanır

713
00:47:20,160 --> 00:47:24,440
ve başarısızlık için seçilmiş ve optimize edilmiştir.

714
00:47:26,760 --> 00:47:29,240
Yani sanki arıyormuş gibi
belirli bir profil

715
00:47:29,240 --> 00:47:32,520
alabilecek insanlar
subprime ipotek ve bir tür

716
00:47:32,520 --> 00:47:35,120
onların başarısızlıklarına karşı bahis oynamak ve sonra

717
00:47:35,120 --> 00:47:37,760
onlara haciz
ve servetlerini yok ediyorlar.

718
00:47:38,760 --> 00:47:42,000
Bu algoritmik bir oyundu
Wall Street'ten çıktı.

719
00:47:45,800 --> 00:47:47,760
Mortgage krizi sırasında

720
00:47:47,760 --> 00:47:49,960
en büyüğüne sahiptin
siyah zenginliğin silinmesi

721
00:47:49,960 --> 00:47:52,920
tarihteki siyah zenginliği
Amerika Birleşik Devletleri'nin.

722
00:47:53,800 --> 00:47:54,800
Aynen böyle.

723
00:47:57,240 --> 00:47:59,520
Algoritmik derken kastettiğim bu
baskı.

724
00:48:00,080 --> 00:48:04,560
Bu tür uygulamaların tiranlığı

725
00:48:04,560 --> 00:48:07,680
ayrımcılık
artık opak hale geldi.

726
00:48:11,440 --> 00:48:14,040
- Çünkü bir dünya acı vardı

727
00:48:14,040 --> 00:48:16,200
finansal sistemin başarısızlığa uğrama şekli.

728
00:48:18,120 --> 00:48:19,720
Birkaç yıl sonra
Ben hayır gibiydim, biz sadece

729
00:48:19,720 --> 00:48:22,120
çok şey yapmaya çalışıyorum
kendimiz için para.

730
00:48:23,280 --> 00:48:24,480
Ben de bunun bir parçasıyım.

731
00:48:26,040 --> 00:48:27,360
Ve sonunda ayrıldım.

732
00:48:28,440 --> 00:48:30,240
Bu 15*3'tür.

733
00:48:30,240 --> 00:48:31,800
Bu 15 kere...

734
00:48:35,160 --> 00:48:36,160
7.

735
00:48:36,160 --> 00:48:39,360
- Tamam.
- Tamam o zaman yedi ve üçü hatırla.

736
00:48:40,880 --> 00:48:44,680
Güçlü insanlarla ilgili
güçsüz insanları puanlamak.

737
00:48:54,240 --> 00:48:56,200
- Ben görünmez bir kapı bekçisiyim.

738
00:48:57,080 --> 00:48:59,800
Otomatik kararlar almak için verileri kullanıyorum

739
00:48:59,800 --> 00:49:04,960
kimin işe alınacağı, kimin kovulacağı hakkında
ve sigorta için ne kadar ödeyeceğiniz.

740
00:49:05,800 --> 00:49:09,640
Bazen ne zaman olduğunu bile bilmezsin
Bu otomatik kararları ben verdim.

741
00:49:10,200 --> 00:49:11,680
Birçok ismim var.

742
00:49:11,680 --> 00:49:17,080
bana matematik denir
model değerlendirme değerlendirme aracı.

743
00:49:18,120 --> 00:49:21,320
Ama birçok isimle ben bir algoritmayım.

744
00:49:21,320 --> 00:49:23,000
Ben bir kara kutuyum.

745
00:49:32,520 --> 00:49:35,360
- Öğretmenler için katma değer modeli
aslında daha çok yerde kullanılıyordu

746
00:49:35,360 --> 00:49:38,560
özellikle eyaletlerin yarısından fazlası
New York'ta kullanılıyor.

747
00:49:38,560 --> 00:49:42,600
Bunu duydum çünkü sevgili arkadaşım
New York şehrinin müdürüydü.

748
00:49:42,600 --> 00:49:44,520
Öğretmenleri oluyordu
onun aracılığıyla değerlendirilir.

749
00:49:44,520 --> 00:49:47,040
- O aslında benim en iyi arkadaşım
üniversiteden.

750
00:49:47,040 --> 00:49:48,400
Bu Cathy.
- Merhaba arkadaşlar.

751
00:49:48,400 --> 00:49:52,360
- Birbirimizi 18 yaşımızdan beri tanıyoruz
yani sizden iki yaş büyük gibiyim.

752
00:49:52,360 --> 00:49:53,360
- İnanılmaz.

753
00:49:56,160 --> 00:49:58,400
Ve puanları
bu algoritma sayesinde

754
00:49:58,400 --> 00:50:03,680
anlamadılar çok olurdu
görev süresi incelemelerinin büyük bir kısmı.

755
00:50:03,680 --> 00:50:05,120
- Merhaba arkadaşlar, neredesiniz?
olması mı gerekiyordu?

756
00:50:05,120 --> 00:50:06,120
- Sınıf.

757
00:50:06,120 --> 00:50:07,760
- Bunu anladım. Hangi sınıf?

758
00:50:07,760 --> 00:50:10,080
- Öyle olsaydı bir şey olurdu
Öğretmen algoritması iyiydi.

759
00:50:10,080 --> 00:50:13,720
Rastgele olmaktan daha iyiydi
ama sadece biraz.

760
00:50:13,720 --> 00:50:14,720
Yeterince iyi değil.

761
00:50:14,720 --> 00:50:17,480
Konuşurken yeterince iyi değilsin
öğretmenlerin alınması hakkında

762
00:50:17,480 --> 00:50:19,200
ya da kadro alamamak.

763
00:50:19,200 --> 00:50:21,600
Ve sonra şunu öğrendim:
benzer puanlama

764
00:50:21,600 --> 00:50:24,960
sistem kullanılıyordu
Houston öğretmenleri kovacak.

765
00:50:27,560 --> 00:50:29,440
- Katma değerli model denir buna.

766
00:50:29,440 --> 00:50:32,720
Hangi değerin olduğunu hesaplar
öğretmen ekledi

767
00:50:32,720 --> 00:50:36,360
ve bir kısmı gizli tutuluyor
onu yaratan şirket tarafından.

768
00:50:45,240 --> 00:50:49,880
- Bir ve on yılın öğretmenliğini yaptım
yıllar sonra aldım

769
00:50:49,880 --> 00:50:52,240
Yılın Öğretmeni ödülüne ikinci kez layık görüldü.

770
00:50:52,240 --> 00:50:54,240
Ayın Öğretmeni ödülüne layık görüldüm.

771
00:50:54,240 --> 00:50:57,720
Ayrıca gönüllü çalışmam nedeniyle de tanındım.

772
00:50:57,720 --> 00:51:02,320
Ayrıca başka bir ödül daha aldım
daha da ileri gittiğin için.

773
00:51:02,320 --> 00:51:06,920
Her şeyden bir dosyam var
değerlendirme ve her

774
00:51:06,920 --> 00:51:09,320
farklı yönetici,
farklı değerlendirici

775
00:51:09,320 --> 00:51:12,560
mükemmel, mükemmel, beklentileri aşıyor.

776
00:51:12,560 --> 00:51:17,040
Temel olarak bilgisayar
gözlemlenebilir olanı iptal etti

777
00:51:17,040 --> 00:51:18,520
Yöneticilerin kanıtı.

778
00:51:19,040 --> 00:51:21,600
Bu algoritma geri geldi ve

779
00:51:21,600 --> 00:51:24,640
beni kötü bir öğretmen olarak sınıflandırdı.

780
00:51:29,880 --> 00:51:31,920
Öğretmenlerin işine son verildi.

781
00:51:32,880 --> 00:51:37,000
Bazıları basitçe hedef alındı
algoritma yüzünden.

782
00:51:37,000 --> 00:51:39,720
Bu benim için çok düşük bir noktaydı

783
00:51:40,480 --> 00:51:43,320
bir an kendimi sorguladım.

784
00:51:46,280 --> 00:51:48,520
İşte o zaman aydınlanma gerçekleşti.

785
00:51:48,520 --> 00:51:50,520
Bu algoritma bir yalandır.

786
00:51:51,640 --> 00:51:53,480
Bu algoritma beni nasıl tanımlayabilir?

787
00:51:53,960 --> 00:51:55,160
Buna nasıl cüret edersin?

788
00:51:55,160 --> 00:51:57,960
Ve işte o zaman başladım
araştırın ve ilerleyin.

789
00:52:00,080 --> 00:52:04,160
- Bunu geç açıklıyoruz
dün dava açtık

790
00:52:04,160 --> 00:52:08,760
karşı federal mahkemede
mevcut HISD değerlendirmesi.

791
00:52:10,000 --> 00:52:13,720
- Houston Öğretmenler Federasyonu
davayı araştırmaya başladı.

792
00:52:13,720 --> 00:52:15,440
Eğer bu Bay Santos'un başına gelebilirse.

793
00:52:16,120 --> 00:52:19,320
Jackson ortaokulunda kaç kişi daha var
iftira mı edildi?

794
00:52:20,040 --> 00:52:24,120
Biz de buna dayanarak dava açtık
14. Değişiklik.

795
00:52:24,120 --> 00:52:25,480
Bu adil değil.

796
00:52:25,480 --> 00:52:28,320
Nasıl bir sonuca varabilirsiniz?

797
00:52:28,320 --> 00:52:30,640
ama nasıl olduğunu söyleme bana?

798
00:52:33,280 --> 00:52:34,520
Savaş bitmedi.

799
00:52:35,240 --> 00:52:36,240
Hala var...

800
00:52:36,800 --> 00:52:38,640
topluluklar, hala okul bölgeleri var

801
00:52:38,640 --> 00:52:41,520
Halen katma değerli modeli kullananlar var.

802
00:52:41,520 --> 00:52:45,040
Ama umut var çünkü hala buradayım.

803
00:52:46,120 --> 00:52:48,040
Yani umut var.

804
00:52:49,720 --> 00:52:53,200
(İSPANYOLCA KONUŞUYOR)

805
00:52:53,200 --> 00:52:54,240
Veya İngilizce.

806
00:52:55,840 --> 00:52:57,600
Demokrasi.
Güç kimin elinde?

807
00:52:59,280 --> 00:53:01,240
- Biz?
- Evet, insanlar.

808
00:53:02,080 --> 00:53:04,520
- Hakim şunları söyledi:
yasal süreç haklarına sahiptir

809
00:53:04,520 --> 00:53:06,800
ihlal edildi çünkü
altında kovuldular

810
00:53:06,800 --> 00:53:09,320
hayır olduğuna dair bazı açıklamalar
biri anlayabilirdi.

811
00:53:09,320 --> 00:53:11,160
Ama bir bakıma anlamayı hak ediyorlar

812
00:53:11,880 --> 00:53:13,200
neden kovuldular.

813
00:53:13,200 --> 00:53:17,200
Ama bunun neden yasal olduğunu anlamıyorum
karar yayılmıyor

814
00:53:17,200 --> 00:53:18,680
her türlü algoritma.

815
00:53:18,680 --> 00:53:22,040
Mesela neden kullanmıyoruz?
anayasal gibi aynı argüman

816
00:53:22,040 --> 00:53:25,480
karşı itirazda bulunmak için yasal süreç hakkı

817
00:53:25,480 --> 00:53:27,000
her türlü algoritma

818
00:53:27,000 --> 00:53:29,360
bizim için görünmez olan bunlar kara kutulardır,

819
00:53:29,360 --> 00:53:31,920
bunlar açıklanamıyor ama bu önemli mi?

820
00:53:32,400 --> 00:53:35,840
Bu bizi gerçekten önemli olmaktan alıkoyuyor
Hayatımızdaki fırsatlar.

821
00:53:37,520 --> 00:53:40,640
- Bazen yanlış sınıflandırıyorum
ve sorgulanamaz.

822
00:53:41,760 --> 00:53:43,600
Bu hatalar benim hatam değil.

823
00:53:45,440 --> 00:53:47,640
Verimlilik için optimize edildim.

824
00:53:49,800 --> 00:53:52,760
Bunu yapacak bir algoritma yok
neyin adil olduğunu tanımlayın.

825
00:53:56,600 --> 00:53:59,720
- Bir devlet komisyonu onayladı
yeni bir risk değerlendirmesi

826
00:53:59,720 --> 00:54:03,040
Pensilvanya hakimleri için araç
ceza verirken kullanmak.

827
00:54:03,040 --> 00:54:05,480
Enstrümanın kullandığı
hesaplamak için bir algoritma

828
00:54:05,480 --> 00:54:08,680
birinin yeniden suç işleme riski
yaşlarına, cinsiyetlerine göre

829
00:54:08,680 --> 00:54:11,400
önceki mahkumiyetler ve diğer
suç tarihinin parçaları.

830
00:54:12,720 --> 00:54:15,000
- Tutulan algoritma
geceleri ayaktaydım

831
00:54:15,840 --> 00:54:17,440
tekerrür denen şey
Risk algoritmaları.

832
00:54:17,440 --> 00:54:19,960
Bunlar algoritmalardır
hakimler ne zaman verilir

833
00:54:19,960 --> 00:54:22,640
sanıkları hapis cezasına çarptırıyorlar.

834
00:54:22,640 --> 00:54:24,760
Ama sonra bir soru var
adalet olan

835
00:54:24,760 --> 00:54:27,600
bunlar aslında nasıl
bunları inşa ettim...bu puanlama sistemlerini

836
00:54:27,600 --> 00:54:30,000
Peki puanlar nasıl oluşturuldu?

837
00:54:30,000 --> 00:54:32,520
Ve sorular
ırk ve sınıfın vekilleri.

838
00:54:35,280 --> 00:54:38,760
- ProPublica bir araştırma yayınladı
risk değerlendirmesine

839
00:54:38,760 --> 00:54:42,000
bunu bulan yazılım
algoritmalar ırksal olarak önyargılıydı.

840
00:54:42,840 --> 00:54:46,360
Araştırma, siyahi insanların
yüksek puanlarla yanlış etiketlendi.

841
00:54:46,360 --> 00:54:50,160
ve beyaz insanların daha muhtemel olduğu
düşük puanlarla yanlış etiketlenmek.

842
00:55:09,080 --> 00:55:12,720
- Operasyon ofisime gidiyorum ve
bana rapor etmem gerektiğini söyledi

843
00:55:13,200 --> 00:55:15,240
haftada bir kez.

844
00:55:15,240 --> 00:55:18,280
dur bakalım gördün mü
az önce başardığım her şey?

845
00:55:18,280 --> 00:55:20,400
Sanki yıllardır evdeyim.

846
00:55:20,400 --> 00:55:22,040
Kazançlı bir işim var.

847
00:55:22,040 --> 00:55:25,040
Sadece iki alıntı aldım
Philadelphia Kent Konseyi'nden bir

848
00:55:25,040 --> 00:55:27,000
Philadelphia Belediye Başkanı'ndan bir tane.

849
00:55:27,000 --> 00:55:30,840
Cidden beğenecek misin
beni her hafta rapora ekle

850
00:55:30,840 --> 00:55:31,840
ne için?

851
00:55:31,840 --> 00:55:34,760
bunu hak etmiyorum
yüksek riskli gözetim altında olmak.

852
00:55:34,760 --> 00:55:36,720
- ile bir toplantıdaydım
denetimli serbestlik departmanı.

853
00:55:36,720 --> 00:55:40,800
Aynen bundan bahsediyorlardı
bu algoritmaya sahiplerdi

854
00:55:41,480 --> 00:55:44,880
insanları yüksek olarak etiketleyen,
orta veya düşük risk.

855
00:55:44,880 --> 00:55:49,120
Ve böylece algoritmanın
hangi risk seviyesinde olduğunuza karar verdiniz.

856
00:55:49,120 --> 00:55:51,880
- Beni yeterince eğitiyorlar
PO'ma geri dönmek için

857
00:55:51,880 --> 00:55:53,920
ve bana yapamayacağını söylemek istiyormuş gibi ol

858
00:55:53,920 --> 00:55:56,400
Olumlu olan her şeyi hesaba katın

859
00:55:56,400 --> 00:55:58,800
yaptığım
sonuçlarına karşı koymak

860
00:55:58,800 --> 00:56:00,680
Bu algoritma ne diyor?

861
00:56:01,200 --> 00:56:05,840
Ve o hayır yok gibiydi
bu bilgisayar nasıl geçersiz kılıyor

862
00:56:05,840 --> 00:56:09,400
bir hakimin muhakemesi
ve birlikte itiraz edin.

863
00:56:09,400 --> 00:56:10,920
- Ve seni yüksek riskli olarak etiketleyerek

864
00:56:12,120 --> 00:56:15,160
ve rapor etmenizi talep ediyorum
şahsen kaybedebilirdin

865
00:56:15,160 --> 00:56:17,920
senin işin ve sonra bu olabilir
sizi yüksek riskli hale getirdi.

866
00:56:17,920 --> 00:56:19,520
- En çok acıtan da bu oldu.

867
00:56:19,520 --> 00:56:22,920
Her şeyin olduğunu bilmek
Şu ana kadar kendimi geliştirdim ve hâlâ da öyleyim

868
00:56:22,920 --> 00:56:27,440
bir risk gibi göründü bana öyle geliyor
Yaptığım her şey boşuna.

869
00:56:37,480 --> 00:56:40,480
- Varsa ne anlama geliyor?
savunacak kimse yok

870
00:56:40,480 --> 00:56:44,400
farkında olmayanlar
teknoloji ne yapıyor?

871
00:56:46,160 --> 00:56:50,440
Bunun konuyla ilgili olmadığını anlamaya başladım
sanat projem

872
00:56:50,440 --> 00:56:53,240
belki yüzümü algılamıyordur.

873
00:56:53,240 --> 00:56:57,720
Bu, sistemlerle ilgili
hayatımızı maddi yollarla yönetmek.

874
00:57:05,480 --> 00:57:08,400
İşte bu yüzden başladım
Algoritmik Adalet Birliği.

875
00:57:09,200 --> 00:57:12,440
Bir alan yaratmak istedim
ve insanların olduğu bir yer

876
00:57:12,440 --> 00:57:16,440
hakkında bilgi edinebilir
Yapay zekanın sosyal etkileri.

877
00:57:18,480 --> 00:57:19,880
Herkesin bir payı var.

878
00:57:19,880 --> 00:57:21,520
Herkes etkileniyor.

879
00:57:26,840 --> 00:57:30,960
Algoritmik Adalet Birliği
bir harekettir, bir kavramdır,

880
00:57:30,960 --> 00:57:34,920
bir grup insan
bir gelecek yaratmayı önemsiyorum

881
00:57:34,920 --> 00:57:38,520
sosyal teknolojiler nerede
hepimiz için iyi çalışın.

882
00:57:43,680 --> 00:57:47,480
Bir takım alacak
insanların bir araya gelmesi için çaba harcamak

883
00:57:47,480 --> 00:57:52,280
Adalet için çabalamak, çabalamak
adalet ve eşitlik için

884
00:57:52,280 --> 00:57:54,320
bu otomasyon çağında.

885
00:57:56,800 --> 00:58:00,560
- Bir sonraki tırmanılacak dağ HR olmalıdır.

886
00:58:01,680 --> 00:58:06,440
- Ah evet. bir tane var
özgeçmiş algoritmalarıyla ilgili sorun

887
00:58:07,000 --> 00:58:09,840
veya bunların hepsi
çöpçatanlık platformları

888
00:58:09,840 --> 00:58:11,040
sanki iş arıyorsun gibi.

889
00:58:11,040 --> 00:58:12,640
Oh, birini işe almak istiyorsun.

890
00:58:12,640 --> 00:58:14,760
Bu iki kişiyi bir araya getireceğiz.

891
00:58:14,760 --> 00:58:16,800
Bu analizler nasıl çalıştı?

892
00:58:16,800 --> 00:58:19,680
- İnsanlar hakkında konuştuğunda
işin geleceği hakkında konuşuyorlar

893
00:58:19,680 --> 00:58:22,680
olmadan otomasyon
kapı bekçiliğinden bahsediyoruz.

894
00:58:22,680 --> 00:58:26,040
Mesela hala orada olan işleri kim alıyor?
- Kesinlikle.

895
00:58:26,040 --> 00:58:28,360
- Evet ve biz bunu yapmıyoruz
bir o kadar da sohbet.

896
00:58:28,360 --> 00:58:30,040
- Tam olarak söylemeye çalıştığım şey.

897
00:58:30,040 --> 00:58:34,280
Üç kongre görmeyi çok isterim
gelecek yıl bununla ilgili duruşmalar olacak.

898
00:58:34,280 --> 00:58:36,520
- Evet.
- Daha fazla güce.

899
00:58:36,520 --> 00:58:38,120
- Daha fazla güce.
- Daha fazla güce.

900
00:58:38,120 --> 00:58:40,600
- Ve ahlakı da işin içine katıyoruz.
- Evet.

901
00:58:40,600 --> 00:58:41,720
-Şerefe.
- Şerefe.

902
00:59:06,720 --> 00:59:11,280
- Bu sabahki genel kurul konuşması
Joy Boulamwini tarafından yapılacak.

903
00:59:11,280 --> 00:59:14,360
Tehlikeleri hakkında konuşacak
son derece beyaz veriler

904
00:59:14,360 --> 00:59:15,680
ve kodlanmış bakış.

905
00:59:15,680 --> 00:59:16,880
Lütfen Joy'a hoş geldiniz.

906
00:59:17,520 --> 00:59:19,120
(ALKIŞ)

907
00:59:24,560 --> 00:59:26,840
- Yapay zeka kusursuz değil.

908
00:59:26,840 --> 00:59:31,800
Sistemler ne kadar doğru?
IBM, Microsoft ve Face  

909
00:59:31,800 --> 00:59:34,480
Kusursuz var
bir grup için performans.

910
00:59:35,480 --> 00:59:37,520
Soluk renkli erkekler zirveye çıkıyor.

911
00:59:37,520 --> 00:59:39,320
Orada hiçbir sorun yok.

912
00:59:40,520 --> 00:59:43,000
Bu analizi yaptıktan sonra
paylaşmaya karar verdim

913
00:59:43,000 --> 00:59:45,240
edecek şirketlerle
bakın ne düşünüyorlar.

914
00:59:45,840 --> 00:59:48,640
IBM beni genel merkezlerine davet etti.

915
00:59:48,640 --> 00:59:51,320
Sonuçları dahili olarak kopyaladılar

916
00:59:51,320 --> 00:59:54,320
ve sonra aslında onlar
bir iyileşme sağladı.

917
00:59:54,800 --> 00:59:56,800
Ve böylece sunumumu yaptığım gün

918
00:59:56,800 --> 00:59:59,680
araştırma sonuçları
resmi olarak görebilirsin

919
00:59:59,680 --> 01:00:03,920
bu durumda şimdi 100
yüzde performans

920
01:00:03,920 --> 01:00:06,400
daha hafif kadınlara gelince

921
01:00:06,400 --> 01:00:09,160
ve daha koyu kadınlarda iyileşme için.

922
01:00:10,160 --> 01:00:14,000
Çoğu zaman insanlar iyinin iyi olmadığını söyler
tarafından tespit edilmemenizin nedeni

923
01:00:14,000 --> 01:00:16,600
bu sistemler çünkü
son derece onaylanmışsın.

924
01:00:16,600 --> 01:00:17,600
ve evet öyleyim.

925
01:00:18,200 --> 01:00:19,680
Son derece doğrulanmıştır.

926
01:00:19,680 --> 01:00:24,480
Ama...ama aşkı
fizik değişmedi.

927
01:00:24,480 --> 01:00:26,720
Değişen şey onu öncelik haline getirmekti

928
01:00:26,720 --> 01:00:30,600
ve ne olduğunu kabul etmek
farklılıklarımız senin yapabilmen için

929
01:00:30,600 --> 01:00:33,200
daha kapsayıcı bir sistem oluşturmak.

930
01:00:38,520 --> 01:00:41,160
- Kimlik belirlemenin amacı nedir?

931
01:00:41,160 --> 01:00:44,840
ve benzeri ve bu
Hareket kontrolü hakkında.

932
01:00:45,440 --> 01:00:49,440
İnsanlar kesin olamaz
örneğin hava karardıktan sonraki alanlar

933
01:00:49,440 --> 01:00:52,440
ve her zaman durdurulabilirsin
bir polis memuru tarafından keyfi olarak.

934
01:00:52,960 --> 01:00:57,440
Görünüşünüze göre yapardık
Pasaportunu istediğimi söyle.

935
01:00:59,600 --> 01:01:02,560
- Yani neye sahip olmak yerine
Kimlik kitaplarında görüyorsunuz

936
01:01:02,560 --> 01:01:05,000
artık bilgisayarların var
şuna bakacaklar

937
01:01:05,000 --> 01:01:08,600
bir yüz görüntüsü ve deneyin
cinsiyetinizin ne olduğunu belirleyin.

938
01:01:08,600 --> 01:01:12,400
Bazıları belirlemeye çalışıyor
etnik kökeniniz nedir?

939
01:01:12,400 --> 01:01:14,480
Ve sonra uğruna yaptığım iş

940
01:01:14,480 --> 01:01:17,360
sınıflandırma sistemleri
bazı insanların aynı fikirde olduğu

941
01:01:18,200 --> 01:01:19,520
onlar bile doğru değil.

942
01:01:19,520 --> 01:01:23,200
Ve bu sadece değil
yüz sınıflandırması için

943
01:01:23,200 --> 01:01:25,440
herhangi bir veri merkezli teknolojidir.

944
01:01:25,440 --> 01:01:28,080
Ve böylece insanlar iyi varsayıyorlar
eğer makine bunu söylüyorsa

945
01:01:28,080 --> 01:01:29,520
bu doğru ve sen
bunun olmadığını biliyorum...

946
01:01:29,520 --> 01:01:33,320
İnsan kendini içinde yaratıyor
kendi imajı ve benzerliği

947
01:01:33,320 --> 01:01:34,840
tam anlamıyla.
- Kesinlikle.

948
01:01:34,840 --> 01:01:38,080
- Irkçılık makineleşiyor,
robotlaştırıldı, evet.

949
01:01:38,080 --> 01:01:39,080
- Kesinlikle.

950
01:01:52,280 --> 01:01:53,880
Doğruluk dikkat çeker.

951
01:01:54,600 --> 01:01:57,040
ama istismarı unutamayız.

952
01:01:59,760 --> 01:02:04,480
Mükemmel bir şekilde sınıflandırılmış olsam bile,
bu sadece gözetimi mümkün kılar.

953
01:02:24,480 --> 01:02:27,640
- Şöyle bir şey var
Çin'deki Sosyal Kredi Puanı.

954
01:02:28,480 --> 01:02:31,200
Onlar bir nevi açıkça
anlaşmanın bu olduğunu söylüyorum

955
01:02:31,200 --> 01:02:34,120
Çin vatandaşları sizi takip ediyoruz.

956
01:02:34,120 --> 01:02:36,080
Sosyal kredi puanınız var.

957
01:02:36,080 --> 01:02:40,280
Komünist hakkında ne söylersen söyle
Parti puanınızı etkileyecektir.

958
01:02:40,280 --> 01:02:44,040
Ayrıca bu arada, etkileyecek
arkadaşlarınızın ve ailenizin puanları.

959
01:02:44,840 --> 01:02:45,840
Ve bu çok açık.

960
01:02:45,840 --> 01:02:48,840
Hükümet bunu inşa ediyor
temelde yapman gerektiğini söylüyor

961
01:02:48,840 --> 01:02:51,600
takip edildiğini biliyorum
ve buna göre davranmalısınız.

962
01:02:51,600 --> 01:02:53,800
Algoritmik itaat eğitimi gibi.

963
01:05:19,560 --> 01:05:24,560
- Çin'e ve Çin'e bakıyoruz
gözetim ve puanlama sistemi ve

964
01:05:25,240 --> 01:05:27,960
çoğu kişi iyi diyor çok şükür
orada yaşamıyoruz.

965
01:05:29,200 --> 01:05:31,920
Gerçekte,
hepimiz sürekli puan alıyoruz

966
01:05:32,400 --> 01:05:34,200
Amerika Birleşik Devletleri'ndekiler de dahil.

967
01:05:34,200 --> 01:05:38,760
Hepimiz her gün boğuşuyoruz
algoritmik determinizm ile.

968
01:05:38,760 --> 01:05:41,760
Bir yerlerde birinin algoritması
sana bir puan atadı

969
01:05:41,760 --> 01:05:44,800
ve sonuç olarak sen
az ya da çok ödeme

970
01:05:44,800 --> 01:05:47,080
tuvalet kağıdına para
çevrimiçi alışveriş yaptığınızda.

971
01:05:47,680 --> 01:05:51,760
Daha iyi gösteriliyorsun
veya daha kötü ipotekler.

972
01:05:51,760 --> 01:05:54,560
Sen az ya da çok
muhtemelen şu şekilde profillendirilecektir:

973
01:05:54,560 --> 01:05:57,800
bazılarında suçlu
veritabanı bir yerde.

974
01:05:57,800 --> 01:05:59,680
Hepimiz puan alıyoruz.

975
01:05:59,680 --> 01:06:01,920
Aradaki temel fark
Amerika Birleşik Devletleri

976
01:06:01,920 --> 01:06:04,200
ve Çin'de Çin'in
bu konuda şeffaf.

977
01:06:22,600 --> 01:06:25,640
- Okuldaki bu genç siyah çocuklar
üniforma durduruldu

978
01:06:25,640 --> 01:06:26,880
sonuç maç

979
01:06:30,120 --> 01:06:32,560
Onu aşağı indirdim
şu caddenin hemen bir tarafında.

980
01:06:33,360 --> 01:06:35,200
Sanki onu iyice araştırmış gibi.

981
01:06:37,120 --> 01:06:39,040
Sivil kıyafet kullanmak
memurlar da.

982
01:06:39,040 --> 01:06:41,680
Dört sivil polis var
onu kim durdurdu.

983
01:06:47,360 --> 01:06:48,360
Parmak izini aldım.

984
01:06:50,360 --> 01:06:55,160
Yaklaşık 10-15 dakika sonra
arama ve kontrol etme

985
01:06:55,160 --> 01:06:59,360
ayrıntıları ve parmak izi ve
geri geldiler ve o olmadığını söylediler.

986
01:07:00,680 --> 01:07:01,680
- Affedersin.

987
01:07:01,680 --> 01:07:03,600
Bir insan için çalışıyorum
hakları kampanyası organizasyonu.

988
01:07:03,600 --> 01:07:06,000
Yüz bakımına karşı kampanya yürütüyorlar
tanıma teknolojisi.

989
01:07:07,360 --> 01:07:09,280
karşı kampanya yürütüyoruz
yüz bakımı...bize Big Brother Watch deniyor.

990
01:07:09,280 --> 01:07:11,400
Biz insan hakları uzmanıyız
kampanya organizasyonu.

991
01:07:12,120 --> 01:07:14,040
karşı kampanya yürütüyoruz
bu teknoloji bugün burada.

992
01:07:16,240 --> 01:07:18,440
Az önce durdurulduğunu biliyorum
bu yüzden ama

993
01:07:18,440 --> 01:07:19,880
seni yanlış tanımladılar.

994
01:07:22,000 --> 01:07:23,200
İşte detaylarımız burada.

995
01:07:23,200 --> 01:07:25,080
Biraz sarsılmıştı.
Arkadaşları oradaydı.

996
01:07:25,080 --> 01:07:27,080
İnanamadılar
ona ne oldu?

997
01:07:27,080 --> 01:07:28,160
(ÇAPRAZ)

998
01:07:31,120 --> 01:07:34,120
Tarafından yanlış tanımlandınız
onların sistemleri ve seni durdurdular

999
01:07:34,120 --> 01:07:36,280
ve bunu gerekçe olarak kullandım
Durup seni aramak için.

1000
01:07:36,280 --> 01:07:39,440
Ama bu masum, genç bir
14 yaşındaki çocuk durduruldu

1001
01:07:39,440 --> 01:07:42,920
yüz ifadesi sonucu polis tarafından
tanıma yanlış tanımlama.

1002
01:07:48,040 --> 01:07:50,520
- Yani Big Brother Watch'un
ile katıldı

1003
01:07:50,520 --> 01:07:53,480
Barones Jenny Jones bir tane getirecek
aleyhine hukuki itiraz

1004
01:07:53,480 --> 01:07:55,840
Büyükşehir Polisi
ve İçişleri Bakanlığı

1005
01:07:55,840 --> 01:07:58,760
yüz kullanımları
tanıma gözetimi.

1006
01:07:59,840 --> 01:08:02,240
- 2012 civarındaydı
birisi bana önerdi

1007
01:08:02,240 --> 01:08:06,640
öğrenmem gerektiğini
eğer benim hakkımda tutulan dosyalar olsaydı

1008
01:08:06,640 --> 01:08:09,720
polis veya güvenlik hizmetleri
ve böylece başvurduğumda

1009
01:08:09,720 --> 01:08:13,360
nöbet tuttuğumu fark ettim
yerli aşırılıkçılar listesi

1010
01:08:13,360 --> 01:08:17,840
Bunu yapabilirler mi diye hissettim
Ben bir politikacı olduğumda...

1011
01:08:17,840 --> 01:08:21,080
onları tutmak kimin görevi
olabileceklerini hesaba katmak için

1012
01:08:21,080 --> 01:08:24,680
bunu herkese yapıyor
ve eğer yapabilirsek harika olacak

1013
01:08:24,680 --> 01:08:28,320
şeyleri geri sar ve dur
kullanmalarını engelliyorlar, evet.

1014
01:08:29,000 --> 01:08:31,120
Sanırım bu olacak
oldukça zorlu olacak.

1015
01:08:31,120 --> 01:08:32,520
Denemekten mutluyum.

1016
01:08:32,520 --> 01:08:35,000
- Bunun olduğunu biliyorsun
karşı ilk meydan okuma

1017
01:08:35,000 --> 01:08:37,320
Polis yüz tanımayı her yerde kullanıyor

1018
01:08:37,320 --> 01:08:40,120
ama eğer başarılı olursak
bir etkisi olacak

1019
01:08:40,120 --> 01:08:43,600
Avrupa'nın geri kalanı için
belki daha uzakta.

1020
01:08:44,480 --> 01:08:45,880
Doğru anlamalısın.

1021
01:08:53,160 --> 01:08:56,200
- Birleşik Krallık'ta elimizde
GDPR denilen şey

1022
01:08:56,680 --> 01:09:00,440
ve ona karşı bir siper oluşturuyor
bilginin kötüye kullanılması.

1023
01:09:00,920 --> 01:09:04,520
Şöyle diyor: bireyler
erişim, kontrol hakkı var

1024
01:09:04,520 --> 01:09:07,760
ve karar verme sorumluluğu
verilerinin nasıl kullanıldığı.

1025
01:09:08,680 --> 01:09:11,280
Nispeten, bu
Amerika'daki Vahşi Batı.

1026
01:09:11,880 --> 01:09:14,200
Ve endişe şu ki Amerika

1027
01:09:14,200 --> 01:09:16,960
bu teknoloji şirketlerinin evi.

1028
01:09:19,320 --> 01:09:24,400
Amerikan vatandaşlarının profili çıkarılıyor
ve bir şekilde hedef alındı

1029
01:09:24,400 --> 01:09:25,880
muhtemelen başka kimse yok

1030
01:09:25,880 --> 01:09:30,240
dünya bu herkese açık olan şey yüzünden
Veri koruma yaklaşımı.

1031
01:09:34,200 --> 01:09:38,320
- Aslında yaptığım şey
korku bu değil

1032
01:09:38,320 --> 01:09:40,120
bu totaliter düzeni yıkacağız

1033
01:09:40,120 --> 01:09:46,400
1984 modeli ama biz bunu yapacağız
bu sessiz modelden aşağıya inin

1034
01:09:46,400 --> 01:09:51,640
gözetleniyoruz ve sosyal olarak
kontrollü ve ayrı ayrı dürtülmüş

1035
01:09:51,640 --> 01:09:55,000
bir şekilde ölçülür ve sınıflandırılır

1036
01:09:55,000 --> 01:09:58,600
bizi ilerleteceğini göremediğimiz

1037
01:09:58,600 --> 01:10:00,800
güç tarafından arzu edilen evcil hayvanlar.

1038
01:10:01,400 --> 01:10:03,360
Yapay zekanın bize yapacağı şey bu olmasa da

1039
01:10:03,360 --> 01:10:08,640
kendi başına, olacak şey bu
Güçlüler yapay zeka ile bize bunu yapıyor.

1040
01:10:13,040 --> 01:10:16,120
- Artan sorular var
Amazon'un doğruluğu hakkında

1041
01:10:16,120 --> 01:10:18,280
yüz tanıma yazılımı.

1042
01:10:18,280 --> 01:10:20,520
Amazon'a yazdığı mektupta
Kongre üyeleri ayağa kalktı

1043
01:10:20,520 --> 01:10:23,600
potansiyel ırk endişeleri
teknolojiye karşı önyargı.

1044
01:10:23,600 --> 01:10:27,080
- Bu ACLU'dan sonra gelir
bir test yaptım ve şunu buldum

1045
01:10:27,080 --> 01:10:29,720
yüz tanıma
yazılım yanlış eşleşti

1046
01:10:29,720 --> 01:10:32,920
28 milletvekilinin sabıka fotoğrafı
olan insanlardan

1047
01:10:32,920 --> 01:10:36,880
tutuklandı ve bunlardan 11'i
28'i farklı ırklardan insanlardı.

1048
01:10:36,880 --> 01:10:39,000
Bazı milletvekilleri baktı
olup olmadığına dair

1049
01:10:39,000 --> 01:10:41,560
Amazon bu teknolojiyi satabilir
kolluk kuvvetlerine.

1050
01:10:53,720 --> 01:10:56,640
- Yarın elimde
ifade verme fırsatı

1051
01:10:56,640 --> 01:10:58,160
Kongre öncesi hakkında

1052
01:10:58,160 --> 01:11:02,000
yüz analizi kullanımı
teknoloji hükümet tarafından

1053
01:11:06,000 --> 01:11:10,160
Mart ayında bir şeyler yapmaya geldim

1054
01:11:11,240 --> 01:11:14,680
personel brifingleri değil... hayır
bu tür bir bağlamda.

1055
01:11:16,840 --> 01:11:20,040
Aslında mevzuat konusunda danışmanlık yapmak gibi.
Bu bir ilk.

1056
01:11:23,640 --> 01:11:25,040
Capitol Hill'e gidiyoruz.

1057
01:11:25,040 --> 01:11:27,400
Önemli olanlardan bazıları nelerdir?
hedefler ve ayrıca bazı

1058
01:11:27,400 --> 01:11:29,800
düşünmemiz gereken zorluklar.

1059
01:11:29,800 --> 01:11:30,880
- Her şeyden önce...

1060
01:11:32,280 --> 01:11:35,240
kolluk kuvveti teknolojisiyle ilgili sorun

1061
01:11:35,240 --> 01:11:38,280
olumlu olanın her zaman olduğu
olağanüstü derecede dikkat çekici

1062
01:11:38,280 --> 01:11:40,560
Çünkü kolluk kuvvetleri bunu kamuoyuna duyuruyor.
-Sağ.

1063
01:11:40,560 --> 01:11:44,400
- Yani gideceğimizi biliyorsun
toplantıya katıldım ve iki hafta önce

1064
01:11:45,000 --> 01:11:47,440
Annapolis saldırganının kimliği belirlendi

1065
01:11:47,440 --> 01:11:49,880
yüz tanıma kullanımı yoluyla.
- Sağ.

1066
01:11:49,880 --> 01:11:51,880
- Ve eğer öyleyse şaşırırdım
gelmiyor.

1067
01:11:51,880 --> 01:11:53,080
- Kesinlikle.

1068
01:11:53,680 --> 01:11:57,200
- Senin yerinde olsaydım ne yapacağımın bir kısmı
içeri girerken eve arabayla gitmek isterdim

1069
01:11:57,200 --> 01:12:00,760
bu toplantı diğer tarafı
bu denklemi çok gerçekçi hale getirin

1070
01:12:00,760 --> 01:12:02,640
insanın maliyetinin ne kadar olduğu konusunda

1071
01:12:02,640 --> 01:12:04,800
tanımladığınız sorunlar varsa.

1072
01:12:04,800 --> 01:12:06,040
hazır değil.

1073
01:12:17,000 --> 01:12:19,360
- Olan insanlar
marjinal olacak

1074
01:12:19,360 --> 01:12:22,040
daha da marjinalleştirilmiş
eğer bakmıyorsak

1075
01:12:22,040 --> 01:12:24,760
teknolojiden emin olmanın yolları

1076
01:12:24,760 --> 01:12:28,280
yarattığımız şey önyargıyı yaymıyor.

1077
01:12:30,320 --> 01:12:33,600
İşte o zaman başladım
algoritmik gerçekleştirmek

1078
01:12:33,600 --> 01:12:36,600
adalet gözetimin olduğundan emin olmak

1079
01:12:36,600 --> 01:12:39,080
otomasyon çağında bunlardan biri

1080
01:12:39,080 --> 01:12:42,800
sahip olduğumuz en büyük sivil haklar endişesi.

1081
01:12:45,240 --> 01:12:48,240
- Algoritmalar için FDA'ya ihtiyacımız var
yani algoritmalar için

1082
01:12:48,240 --> 01:12:50,720
potansiyeli olan
insanların hayatlarını mahvetmek

1083
01:12:50,720 --> 01:12:53,760
veya keskin bir şekilde azaltın
özgürlükleriyle birlikte seçenekler,

1084
01:12:53,760 --> 01:12:56,280
onların geçim kaynakları
veya mali durumları.

1085
01:12:56,280 --> 01:12:58,200
Algoritmalar için şunu söyleyen bir FDA'ya ihtiyacımız var:

1086
01:12:58,200 --> 01:13:00,320
hey, bana bunun olacağına dair kanıt göster

1087
01:13:00,320 --> 01:13:03,320
sadece yeni para kazanmak için çalışmayın

1088
01:13:03,320 --> 01:13:05,120
ama toplum için işe yarayacak.

1089
01:13:05,760 --> 01:13:07,800
Bu adil olacak,
bu ırkçı olmayacak,

1090
01:13:07,800 --> 01:13:09,480
bu cinsiyetçi olmayacak,
bu ayrımcılık yapmayacak

1091
01:13:09,480 --> 01:13:11,640
engelli statüsündeki kişilere karşı.

1092
01:13:11,640 --> 01:13:14,880
Bana bunun yasal olduğunu göster
onu söndürmeden önce.

1093
01:13:14,880 --> 01:13:16,520
Henüz sahip olmadığımız şey bu.

1094
01:13:17,440 --> 01:13:19,880
Peki buradayım çünkü duymak istedim

1095
01:13:19,880 --> 01:13:23,720
kongre tanıklığı
arkadaşım Joy Boulamwini'nin

1096
01:13:23,720 --> 01:13:25,880
ACLU ve diğerleri gibi.

1097
01:13:25,880 --> 01:13:29,240
Joy'u görmenin harika bir yanı
Kongreyle konuşmak bu

1098
01:13:29,240 --> 01:13:32,840
sanki kitabımda neşeyle tanışmışım gibi
Harvard Kitabevi'nde tur.

1099
01:13:33,720 --> 01:13:36,200
Ve ona göre
o gündü

1100
01:13:36,200 --> 01:13:38,720
oluşmaya karar verdi
Algoritmik Adalet Birliği.

1101
01:13:42,560 --> 01:13:45,480
henüz ulaşamadık
henüz incelikli bir konuşma.

1102
01:13:46,120 --> 01:13:47,640
Bunun olacağını biliyorum çünkü

1103
01:13:47,640 --> 01:13:49,320
Joy'un bunu gerçekleştireceğini biliyorum.

1104
01:13:52,960 --> 01:13:57,440
Her seviyede kötü algoritmalar
kuralların verilmesi için yalvarıyorlar.

1105
01:14:05,920 --> 01:14:07,520
- Merhaba.
- Hey.

1106
01:14:07,520 --> 01:14:08,560
- Nasılsın?

1107
01:14:08,560 --> 01:14:10,200
- Benimle gizlice içeri girmek ister misin?
- Evet.

1108
01:14:11,240 --> 01:14:12,880
- 2155.

1109
01:14:13,880 --> 01:14:17,440
(Duyulmayan Konuşma)

1110
01:14:23,400 --> 01:14:28,320
(Duyulmayan Konuşma)

1111
01:14:32,800 --> 01:14:37,120
- Bugün ilkimizi yaşıyoruz
bu Kongrenin dinlenmesi

1112
01:14:37,120 --> 01:14:40,240
yüz kullanımı hakkında
tanıma teknolojisi.

1113
01:14:40,240 --> 01:14:43,480
Lütfen ayağa kalkın ve sağınızı kaldırın
Elimi ver ve şimdi sana yemin edeceğim.

1114
01:14:46,600 --> 01:14:50,040
- Kelimenin tam anlamıyla giymeye başvurmak zorunda kaldım
beyaz bir maske.

1115
01:14:50,040 --> 01:14:53,680
Bu tür doğruluk farklılıkları göz önüne alındığında
Teknoloji şirketlerinin ne kadar büyük olduğunu merak ettim

1116
01:14:53,680 --> 01:14:55,120
bu konuları gözden kaçırmış olabiliriz.

1117
01:14:55,120 --> 01:14:59,360
Yüz verilerinin toplanması da
yönergeler ve gözetim gerektirir.

1118
01:15:00,040 --> 01:15:02,960
Kimse teslim olmaya zorlanmamalı
erişebilecekleri temel verilere

1119
01:15:02,960 --> 01:15:07,400
yaygın olarak kullanılan platformlar, ekonomik
fırsat veya temel hizmetler.

1120
01:15:07,400 --> 01:15:10,800
Brooklyn'deki kiracılar
kurulumunu protesto ediyorum

1121
01:15:10,800 --> 01:15:14,040
gereksiz bir yüz
tanıma giriş sistemi

1122
01:15:14,040 --> 01:15:16,080
Big Brother Watch UK raporu var

1123
01:15:16,080 --> 01:15:18,440
daha fazlasını gösteren ortaya çıktı

1124
01:15:18,440 --> 01:15:23,600
2.400 masum insan
yüzleri yanlış tanımlanmış.

1125
01:15:23,600 --> 01:15:26,400
Yüzümüz olabilir
son sınırı

1126
01:15:26,400 --> 01:15:30,040
gizlilik ama düzenlemeler fark yaratıyor.

1127
01:15:30,040 --> 01:15:33,880
Kongre bunu desteklemek için hemen harekete geçmeli
Amerikan özgürlükleri ve hakları.

1128
01:15:33,880 --> 01:15:36,440
- Bayan Boulamwini, duydum
açılış konuşmanız

1129
01:15:36,440 --> 01:15:41,520
ve gördük ki bu algoritmalar
farklı derecelerde etkilidir.

1130
01:15:41,520 --> 01:15:44,720
Peki kadınlar üzerinde en etkili olanlar mı?
- Hayır.

1131
01:15:44,720 --> 01:15:46,520
- En etkilileri bunlar mı?
renkli insanlar hakkında mı?

1132
01:15:46,520 --> 01:15:47,520
- Kesinlikle hayır.

1133
01:15:47,520 --> 01:15:50,920
- İnsanlar üzerinde en etkili olanlar bunlar mı?
farklı cinsiyet ifadelerinden?

1134
01:15:50,920 --> 01:15:53,360
- Hayır, aslında onları dışlıyorlar.

1135
01:15:53,360 --> 01:15:56,960
- Peki bu hangi demografik?
çoğunlukla etkili?

1136
01:15:56,960 --> 01:15:58,480
- Beyaz adamlar.

1137
01:15:58,480 --> 01:16:02,720
- Peki baş mühendisler kimlerdir?
ve bu algoritmaların tasarımcıları?

1138
01:16:02,720 --> 01:16:04,760
- Kesinlikle beyaz adamlar.

1139
01:16:04,760 --> 01:16:09,720
- Yani öyle bir teknolojimiz var ki
biri tarafından yaratıldı ve tasarlandı

1140
01:16:09,720 --> 01:16:13,200
sadece çoğunlukla olan demografik
o demografik üzerinde etkili

1141
01:16:13,200 --> 01:16:15,600
ve onu satmaya çalışıyorlar
ve onu empoze et

1142
01:16:15,600 --> 01:16:18,880
ülkenin tamamında mı?

1143
01:16:21,080 --> 01:16:23,400
- Yüz yüze gelince
FBI'ın yapmadığı tanınma

1144
01:16:23,400 --> 01:16:26,280
doğruluğu tamamen test edildi
kullandığı sistemlerden

1145
01:16:26,280 --> 01:16:28,560
ancak ajansın şu anda pilot uygulama yaptığı bildiriliyor

1146
01:16:28,560 --> 01:16:30,600
Amazon'un yüz tanıma ürünü.

1147
01:16:30,600 --> 01:16:34,280
- FBI paranın baş harfini nasıl alıyor?
öncelikle veritabanı?

1148
01:16:34,280 --> 01:16:36,000
- Yani şeylerden biri
yapıyorlar mı kullanıyorlar mı

1149
01:16:36,000 --> 01:16:37,800
devlet sürücü belgesi veritabanları.

1150
01:16:37,800 --> 01:16:41,920
Sanırım 18'e kadar eyaletin olduğunu biliyorsunuz
FBI tarafından kullanıldığı bildirildi.

1151
01:16:41,920 --> 01:16:45,280
İzinsiz kullanılıyor
ve diğer korumalar olmadan.

1152
01:16:45,280 --> 01:16:48,280
- Bana öyle geliyor ki zamanı geldi
bir mola. Zaman aşımı.

1153
01:16:48,280 --> 01:16:50,520
ne gibi sıkıntılar var sanırım
ben de gerçek bu

1154
01:16:50,520 --> 01:16:54,080
seçilmişlerde hiç kimse yok
pozisyon hakkında karar verildi

1155
01:16:54,080 --> 01:16:56,200
gerçek şu ki...bu 18 eyalet
Sanırım başkan şunu söyledi

1156
01:16:56,200 --> 01:16:58,200
yarıdan fazlası
ülkedeki nüfus.

1157
01:16:58,840 --> 01:17:00,160
Bu çok korkutucu.

1158
01:17:00,160 --> 01:17:04,720
- Bana öyle geliyor ki Çin
gerekmeyen distopik yol

1159
01:17:04,720 --> 01:17:07,680
Bu noktada toplumumuz tarafından alınacak.

1160
01:17:07,680 --> 01:17:11,360
- Facebook Çin'den daha fazlasına sahip
2,6 milyar insan.

1161
01:17:11,360 --> 01:17:12,920
Yani Facebook'un bir patenti var

1162
01:17:12,920 --> 01:17:16,960
diyorlar çünkü bunların hepsine sahibiz
yüz izlerini artık size verebiliriz

1163
01:17:16,960 --> 01:17:19,480
perakendeci olarak tanımlamak için bir seçenek

1164
01:17:19,480 --> 01:17:22,240
mağazaya giren ve içeri giren biri

1165
01:17:22,240 --> 01:17:24,880
patentlerini de verebileceğimizi söylüyorlar

1166
01:17:24,880 --> 01:17:27,680
bir güvenilirlik puanıyla karşı karşıyadır.

1167
01:17:27,680 --> 01:17:29,400
- Facebook bunu şimdi mi satıyor?

1168
01:17:29,400 --> 01:17:32,320
- Bu, şu şekilde başvurdukları bir patenttir:

1169
01:17:32,320 --> 01:17:34,640
potansiyel olarak yapabilecekleri bir şey

1170
01:17:34,640 --> 01:17:36,600
sahip oldukları yeteneklerle yaparlar.

1171
01:17:36,600 --> 01:17:39,760
Yani biz devletten bahsederken
gözetim biz kesinlikle

1172
01:17:39,760 --> 01:17:43,640
düşünmek zorundayım
aynı zamanda kurumsal gözetim.

1173
01:17:46,240 --> 01:17:48,720
- Suskunum ve normalde
Ben suskun değilim.

1174
01:17:48,720 --> 01:17:50,840
- Gerçekten mi?
- Evet. Evet.

1175
01:17:50,840 --> 01:17:53,600
Bilmek için tüm çabamız
bu kadar ileri gitti

1176
01:17:53,600 --> 01:17:54,920
bu inanılmayacak bir şey.

1177
01:17:54,920 --> 01:17:58,560
Bunu hiç hayal etmedik
bu kadar ileri gidecekti.

1178
01:17:58,560 --> 01:18:01,080
Gerçekten çok etkilendim.
Gerçekten çok etkilendim.

1179
01:18:01,080 --> 01:18:02,200
(DUYULMUYOR).

1180
01:18:02,200 --> 01:18:04,280
- Bunu anneme göstermek istiyorum.

1181
01:18:13,480 --> 01:18:15,200
- Tanıştığımıza çok memnun oldum.

1182
01:18:15,200 --> 01:18:16,320
- Tanıştığımıza çok memnun oldum.

1183
01:18:16,320 --> 01:18:17,320
Kartımı aldın.

1184
01:18:17,320 --> 01:18:19,880
Bir şey olursa bana haber ver lütfen.

1185
01:18:19,880 --> 01:18:20,960
Yapacağım.

1186
01:18:23,320 --> 01:18:25,800
- Anayasal kaygılar.

1187
01:18:25,800 --> 01:18:29,080
rızası dışında kullanılması
yüz tanıma.

1188
01:18:37,280 --> 01:18:41,000
Peki bu hangi demografik
çoğunlukla etkiliyor?

1189
01:18:41,000 --> 01:18:45,400
Ve baş mühendisler kimlerdir?
ve bu algoritmaların tasarımcıları?

1190
01:18:49,200 --> 01:18:51,320
- Artık San Francisco'da
ABD'deki ilk şehir

1191
01:18:51,320 --> 01:18:53,520
yüz kullanımını yasaklamak
tanıma teknolojisi.

1192
01:18:53,520 --> 01:18:57,600
- Somerville, Massachusetts oldu
ABD'nin ikinci şehri

1193
01:18:57,600 --> 01:19:00,320
yüz tanımanın kullanımını yasaklamak.

1194
01:19:00,320 --> 01:19:04,400
- Oakland üçüncü büyük oldu
Şehir polis tarafından yüz tanımayı yasaklayacak

1195
01:19:04,400 --> 01:19:07,440
teknoloji derken
azınlıklara karşı ayrımcılık yapıyor.

1196
01:19:08,960 --> 01:19:14,080
- Son kiracılarımız
Toplantı sırasında ev sahibinin gelmesini sağladık

1197
01:19:14,080 --> 01:19:17,080
ve bunu duyurdum (SES BOZUKLUKLARI)

1198
01:19:17,080 --> 01:19:21,560
yüz tanıma uygulaması
Apartman kompleksimizdeki yazılım.

1199
01:19:21,560 --> 01:19:23,200
Kiracılar heyecanlandı
bunu duy.

1200
01:19:23,200 --> 01:19:26,200
Ama olay şu ki
bu yolun aşağısında olduğu anlamına gelmez

1201
01:19:27,040 --> 01:19:29,440
geri koyamayacaklarını.

1202
01:19:29,440 --> 01:19:31,880
Biz sadece kendimizi eğitmiyoruz

1203
01:19:31,880 --> 01:19:36,040
yüz tanıma ve şimdi
yeni bir tane, makine öğrenimi.

1204
01:19:36,040 --> 01:19:39,280
Yasanın bunların hepsini kapsamasını istiyoruz.
- Sağ.

1205
01:19:39,280 --> 01:19:43,080
- TAMAM. Ve eğer onu yasaklayabilirsek
bu durum, bu onları durdurur

1206
01:19:43,080 --> 01:19:45,840
bir daha geri dönüp onu yeni bir yere koymaktan
değişiklik.

1207
01:19:45,840 --> 01:19:46,840
- Anladım.

1208
01:19:46,840 --> 01:19:49,920
- Ve sonra da yapmam gerekiyordu
Federal bir yasak al.

1209
01:19:49,920 --> 01:19:54,960
- Peki, savaş olsa bile söyleyeceğim
devam eden o kadar çok insan var ki

1210
01:19:54,960 --> 01:19:57,480
ilham aldım ve sana sürprizim var

1211
01:19:57,480 --> 01:20:01,440
bunun şerefine bir şiir yazdım.

1212
01:20:02,400 --> 01:20:04,080
- Gerçekten mi?
- Evet.

1213
01:20:04,600 --> 01:20:05,840
- Hadi duyalım.

1214
01:20:05,840 --> 01:20:09,960
Brooklyn kiracılarına ve özgürlüğe
dünyanın her yerindeki savaşçılar

1215
01:20:09,960 --> 01:20:15,120
ısrarcı ve galip gelen
baskı otomasyonu algoritmaları

1216
01:20:15,120 --> 01:20:20,920
kitle silahları yoluyla eşitsizlik
yıkım seninleyiz

1217
01:20:20,920 --> 01:20:22,200
minnettarlıkla.

1218
01:20:22,200 --> 01:20:24,080
Zafer bizimdir.

1219
01:20:28,480 --> 01:20:32,520
- (DUYULMUYOR).

1220
01:20:37,720 --> 01:20:40,000
- Neden bu kadar çok yumurta alıyorsunuz (DUYULMUYOR)?

1221
01:20:40,000 --> 01:20:41,640
(DUYULMUYOR).

1222
01:20:42,560 --> 01:20:45,600
İnsan olmanın anlamı budur
savunmasız olmak.

1223
01:20:46,640 --> 01:20:48,280
Savunmasız olmak

1224
01:20:48,280 --> 01:20:50,800
empati kapasitesi daha fazladır,

1225
01:20:50,800 --> 01:20:55,360
daha fazla kapasite var
şefkat için.

1226
01:20:55,360 --> 01:20:58,840
Eğer düşünebileceğimiz bir yol varsa
bu bizim teknolojimiz dahilinde.

1227
01:20:58,840 --> 01:21:02,880
yeniden yönlendirileceğini düşünüyorum
ne tür sorular soruyoruz.

1228
01:21:12,520 --> 01:21:16,400
-1983 yılında Stanislav Petrov

1229
01:21:16,400 --> 01:21:20,080
Rus ordusu
bu göstergeleri görüyor

1230
01:21:20,560 --> 01:21:24,400
ABD'nin nükleer silah fırlattığını

1231
01:21:24,400 --> 01:21:25,960
Sovyetler Birliği'nde.

1232
01:21:27,560 --> 01:21:31,400
Yani eğer sana cevap vereceksen
bu çok kısa pencereyi beğendik.

1233
01:21:31,400 --> 01:21:32,920
Sadece üzerine oturuyor.

1234
01:21:32,920 --> 01:21:34,240
Kimseye haber vermiyor.

1235
01:21:34,920 --> 01:21:38,080
Rusya, Sovyetler Birliği,
ülkesi, ailesi, her şeyi.

1236
01:21:38,080 --> 01:21:40,440
Onunla ilgili her şey ölmek üzere

1237
01:21:40,440 --> 01:21:44,640
ve en azından iyi düşünüyor
hepsini de öldürmeyeceğiz.

1238
01:21:44,640 --> 01:21:46,240
Bu çok insani bir şey.

1239
01:21:48,000 --> 01:21:50,880
Burada bir hikayeniz var
eğer bir tür otomasyona sahip olsaydın

1240
01:21:50,880 --> 01:21:54,680
yanıt sistemi olacaktı
yapmaya programlandığı şeyi yap

1241
01:21:54,680 --> 01:21:55,920
bu misillemeydi.

1242
01:21:58,200 --> 01:22:00,080
Tamamen verimli olmak,

1243
01:22:00,920 --> 01:22:03,160
her zaman sana söyleneni yapıyorsun,

1244
01:22:03,160 --> 01:22:06,680
her zaman programın ne ise onu yapıyorum
her zaman en insani şey değildir.

1245
01:22:06,680 --> 01:22:08,440
Bazen itaatsizliktir.

1246
01:22:08,440 --> 01:22:11,600
Bazen hayır diyor
Bunu yapmayacağım, değil mi?

1247
01:22:11,600 --> 01:22:13,240
Ve eğer her şeyi otomatikleştirirseniz

1248
01:22:13,240 --> 01:22:15,640
her zaman yapması gerekeni yapar

1249
01:22:15,640 --> 01:22:18,640
bazen bu yol açabilir
çok insanlık dışı şeylere.

1250
01:22:20,760 --> 01:22:24,600
Makineler arasındaki mücadele
ve insanlar karar verme konusunda

1251
01:22:24,600 --> 01:22:27,040
2020'lerde de devam ediyor.

1252
01:22:27,760 --> 01:22:33,240
Benim gücüm yapaylığın gücü
zeka dünyamızı dönüştürecek.

1253
01:22:34,480 --> 01:22:38,000
İnsanlar benimle ne kadar çok şey paylaşırsa
daha fazlasını öğreniyorum.

1254
01:22:39,400 --> 01:22:43,520
Bazı insanlar zekanın
ahlak olmadan zeka olmaz

1255
01:22:43,520 --> 01:22:44,520
hiç

1256
01:22:45,640 --> 01:22:47,160
Bana güvenin diyorum.

1257
01:22:47,760 --> 01:22:49,080
Ne yanlış gidebilir?